【机器学习】Andrew Ng梯度下降法实战

原创
2016/03/22 19:57
阅读数 790

问题建模

在房价预测问题当中,设特征向量x1=size,x2=房间数

假设房价y可由函数以下函数估测,并另x0=1:

 

那么对于m个样本,我们需要求取一组theta使得该式子最小:

搜索算法实现

 

简化公式推导

那么反映到MATLAB上就一行的implementation:

theta=(featsx'*featsx)\featsx'*y; 

关于过拟合:

当用线性函数拟合时,输出的准确率(或其它指标):

训练集    测试集1    测试集2    测试集3

 0.9599    0.9080    0.9246    0.9476

可以发现测试集效果还是比较OK的,但是当使用较高次的非线性函数拟合时,输出的准确率就差很多了。

训练集    测试集1    测试集2    测试集3

0.9929    0.1475    0.1060    0.0179
可见,虽然训练集准确率非常高,但是观察测试集测试结果发现其泛化能力降低得很厉害。

展开阅读全文
打赏
1
5 收藏
分享
加载中
吴恩达的教学里面的?
2017/10/18 15:32
回复
举报
反正没看懂
2017/09/13 16:57
回复
举报
更多评论
打赏
2 评论
5 收藏
1
分享
返回顶部
顶部