什么情况下用标准梯度下降法,什么情况下用随机梯度下降法
2017-02-11 15:40
323 查看
如果仅从测试误差出发,标准梯度下降的效果会比随机梯度下降要好。但是标准梯度下降的训练时间会比随机梯度下降要长。像线性回归这种简单的模型,训练时间的优先级不高,所以用标准梯度下降会比随机梯度下降要好。像神经网络这种复杂的模型,训练时间的优先级比较高,所以用随机梯度下降比较好。如果模型的损失函数是凸函数,那么使用标准梯度下降一定能达到全局最优。如果模型比较复杂,容易进入局部最优,那么使用随机梯度下降会发生震荡,容易从局部最优中跳出,进入全局最优。
另外,神经网络模型使用标准梯度下降最重要的原因是神经网络容易过拟合,而不是训练时间。
(请教大神的答案)
另外,神经网络模型使用标准梯度下降最重要的原因是神经网络容易过拟合,而不是训练时间。
(请教大神的答案)
相关文章推荐
- 看看大牛们是如何谈运维的
- 【Dongle】【MyEclipse】快捷键积累
- 1112. Stucked Keyboard (20) -- 字符串处理,使用map
- Apache Hadoop FS命令示例
- 2017.2.11【初中部 GDKOI】模拟赛B组题解
- Cocos Creator之修改assets目录下的资源模版
- 数据库1366错误,加到数据库的数据的数据格式跟数据库中的数据格式不符
- 弱省蒟蒻刷题记录
- 221. Maximal Square -Medium
- 语料处理之全角转半角
- 学习笔记
- JSP
- AssetBundle-----资源加载(读取assetbundle)
- 手机信号真的会影响飞机飞行安全吗?
- 手机信号真的会影响飞机飞行安全吗?
- JS-promise, 异步回调函数模式
- SuperGridControl绑定数据源,同时更新数据库
- C++ 内存对齐
- 实现table的单线边框的技巧
- 学习设计模式(4)——桥接模式