您的位置:首页 > 其它

线性回归之代价函数除2m

2015-12-22 15:49 288 查看
线性回归中代价函数为:

J=12m∑i=1m(hθ(x(i))−y(i))2J = \frac{1}{{2m}}\sum\limits_{i = 1}^m {{{\left( {{h_\theta }\left( {{x^{\left( i \right)}}} \right) - {y^{\left( i \right)}}} \right)}^2}}

开始为何是除以2m2m,第一反应不应该除以mm么?在吴恩达机器学习视频公开课上讲解是为了其他数学计算的方便。其实这里无论除以2m2m还是mm,代价函数最优化的结果θ \theta\ 都是相同的。

数学计算的方便:之后利用梯度下降法对JJ求导,如果是2m2m,求导结果为:∂J∂θi=1m∑i=1m(hθ(x(i))−y(i))∂hθ(x(i))∂θ\frac{{\partial J}}{{\partial {\theta _i}}} = \frac{1}{m}\sum\limits_{i = 1}^m {\left( {{h_\theta }\left( {{x^{\left( i \right)}}} \right) - {y^{\left( i \right)}}} \right)} \frac{{\partial {h_\theta }\left( {{x^{\left( i \right)}}} \right)}}{{\partial \theta }},这里正好除以mm,便于计算。
内容来自用户分享和网络整理,不保证内容的准确性,如有侵权内容,可联系管理员处理 点击这里给我发消息
标签: