L1、L2、正则、损失

转载出处：
http://www.zhizhihu.com/html/y2013/4414.html
微博上看到的，由于之前面试遇到过，答得不好，所以还是碰到就好好看看。
@学生古
什么是损失，什么是正则；什么是L1，什么是L2。一会儿是L1正则，一会儿是L2损失。http://t.cn/8k5xI8V

总结：L1或者L2就是某种范数（线性代数和矩阵的基本概念），既可以用于损失又可以用于正则化参数。损失和衡量预测值和真实值的差异，正则是控制所求参数的量级。