当前位置: 代码迷 >> GIS >> 逻辑回归之决议计划边界 logistic regression - decision boundary
  详细解决方案

逻辑回归之决议计划边界 logistic regression - decision boundary

热度:781   发布时间:2016-05-05 06:03:54.0
逻辑回归之决策边界 logistic regression -- decision boundary

逻辑回归之决策边界 logistic regression -- decision boundary


logistic回归虽然带着回归两字却和线性回归有很大的区别,在前几篇博客中完整的介绍了线性回归。线性回归主要用于预测问题,其输出值为连续变量,而logistic回归主要用于分类问题,其输出值为离散值。logistic回归可以用于多元分类问题,也可以用于二元分类问题,但二元分类更为常用。因此本文只介绍二元分类的应用。
先来看一些logistic回归的基本东西,logistic回归的假设函数为: .因此
其中称为S型函数(sigmoid function)或者逻辑函数(logistic function),其函数图像如图所示:


从函数图像中很容易观察出 ,即 
举个例子:对于肿瘤数据集,假设其中一个特征为肿瘤的尺寸,结果为{恶性,良性}。假设 , 即肿瘤为恶性的概率为0.7,因此 ,看不懂什么意思的强烈建议去补下概率论,即在给定的条件下y=1的概率。对于二元分类问题, 。logistic回归基本的东西就先介绍到,下面介绍决策边界(decision boundary),所谓决策边界就是能够把样本正确分类的一条边界,主要有线性决策边界(linear decision boundaries)和非线性决策边界(non-linear decision boundaries)。注意:决策边界是假设函数的属性,由参数决定,而不是由数据集的特征决定。下面主要举一些例子,形象化的来说明线性决策边界和非线性决策边界。
先看一个线性决策边界的例子:(注:图片来源:ng的machine learning课)


这个应该很好理解了,至于为什么predict y=1 if  请滚动鼠标回看上面的公式。

再来看一个非线性决策边界的例子:


决策边界先介绍到这,至于如何自动选择参数 ,将在下篇博客中介绍,请大家关注。
  相关解决方案