李宏毅《一天搞懂深度学习》学习笔记-1

原创
2017/03/22 14:07
阅读数 863

Regression(统计学) 回归;

股票预测,需要一个function,输入以前的数据,输出未来的可能数据

自动驾驶,推荐系统

更加实用的案例,预测宠物小精灵的进化后的CP值(Combat Power),例如预测妙蛙种子的CP值,得到可能进化后更强的宝可梦

f(妙蛙种子的数据)=CP after evolition

step 1:model=a set of function

step 2:goodness of function

model + training data = goodness of function

    loss function L:

线性代数或者step 3

step 3:gradient descent

相对调整参数,一次次计算,得到 local值,但是不是gobal值(最优的)

一个参数的时候,计算微分,两个参数,分别计算偏微分,重复上面的过程

linear regression ,the loss function L is convex 

no local  optimal

the complex model is not the good one(when use testing data may not lead to best one) ----this is overfitting

加入物种的影响

(预测的时候,可能会有很多的未预测到的因素去影响)

back to step 1: redesign the model again

back to step 2: regularization 

redesign the loss function 

我们更加喜欢平滑一些的function,他会对noise没有那么敏感,但是不能太过于平滑

调整参数调整平滑程度

 

 

 

 

 

展开阅读全文
打赏
0
0 收藏
分享
加载中
更多评论
打赏
0 评论
0 收藏
0
分享
返回顶部
顶部