机器学习中产生overfitting的可能性和解决overfitting的方法

产生overfitting的可能性

1.数据量不够

2.数据存在噪声

3.模型太复杂

4.选择的模型不符合实际

解决的方法

1.模型从简单的开始做

2.数据清洗，去除噪声等等。（标定的错误数据修正，错误的数据也可丢掉。实际应用中没有很好的方法甄别错误的数据，存在不同的方法。这方法有时候有用）

3.增加数据。（比如图像可以旋转、平移、缩放等，不能元素数据相差太多，或者收集更多的数据。有时候会有用）

4.加入正则项。（对参数加l2或者l1范数作为正则项，把正则项放在loss function里面）

5.采用validation（验证）的方式。可以参考下面的链接：http://blog.csdn.net/uestc_c2_403/article/details/72859395