对监督学习的理解
2017-12-29 00:00
169 查看
机器学习分为监督学习,非监督学习,强化学习和深度学习。
监督学习,是从标记的训练数据来推断一个功能的机器学习任务。
比如,在家里教宝宝认识苹果和梨,你拿出四个苹果和四个梨,放桌子上教宝宝认识这些水果。这些苹果和梨就是已经标注好的数据。
然后指着苹果对宝宝说:“来,宝宝,往这看,这是苹果,来跟我念,苹——果——。”
“苹——果——。”
“好。”
然后又指着香蕉对宝宝说:“来,看这里,这是梨,来给我念,梨——。”
“梨——。”
依次把这些水果都教宝宝认一遍。这就是监督学习的训练过程,训练完成后还要做一下测试,看看宝宝是否都学习会了。
监督学习中,一般把数据分成两部分,一部分是学习数据,占总数据集的80%以上,一部分是测数据,占总数据集的20%一下。测试时,你从冰箱里拿出一个苹果和一个梨,问宝宝:“宝宝,这是什么呀?”。这就是监督学习的测试过程。
在测试中,宝宝把苹果认错了,你分析发现,原来你教宝宝的时候用的是红苹果,测试时,用的是青苹果。这说明你对数据划分的不合理,训练数据中应该包括红苹果和青苹果。
为了避免这个问题,在训练时,先把数据随机打乱,再把数据分成训练数据和测试数据。
其实在真正的监督学习中,学习过程类型与上面说的类似,只是在学习时,使用了一些算法,数据量级也是上百万,上千万,甚至上亿的。
为了训练出更好的机器学习模型,我们会先选择一个合适的机器学习算法,再为这个算法准备好不同的参数。
在训练时,我们把学习算法和参数结合起来,组合成一个模型。为选出一个最好的模型,我们会使用一些交叉验证法,计算出一个得分,哪个模型得分高就选哪个模型。
交叉验证法有很多种,我们一般使用K折交叉验证。K折交叉验证是把训练数据分成K份,然后依次拿出一份做为验证数据,其剩下他的K-1份数据做为训练数据,用来训练机器学习模型,训练完成后,再拿验证数据,测试模型得分。 这样循环执行K次,然后再把每次验证得分加一起算平均值,作为模型的得分,得分最高的模型,就是我们选取的模型。
然后再用测试数据测试我们选取的模型,看看它的正确率怎么样。
有时我们在训练时,得分很高,但是在测试时,正确率却很低。我们把这种现象叫过拟合。过拟合出现的原因是训练条件太苛刻了。比如,你在教宝宝认苹果的时候,拿出一个红苹果,对宝宝说:“宝宝,这是苹果,它的颜色的红的,上面还有个把。” 然后你再拿出来一个红色没把的苹果,他就不认识了。因为你教他的时候,条件太苛刻了,红色带把的苹果叫苹果。这就叫过拟合。
出现过拟合,那么我们就需要,调整参数,再重新训练。找到最好的模型,然后测试。直到测试的正确率满意为止。
监督学习,是从标记的训练数据来推断一个功能的机器学习任务。
比如,在家里教宝宝认识苹果和梨,你拿出四个苹果和四个梨,放桌子上教宝宝认识这些水果。这些苹果和梨就是已经标注好的数据。
然后指着苹果对宝宝说:“来,宝宝,往这看,这是苹果,来跟我念,苹——果——。”
“苹——果——。”
“好。”
然后又指着香蕉对宝宝说:“来,看这里,这是梨,来给我念,梨——。”
“梨——。”
依次把这些水果都教宝宝认一遍。这就是监督学习的训练过程,训练完成后还要做一下测试,看看宝宝是否都学习会了。
监督学习中,一般把数据分成两部分,一部分是学习数据,占总数据集的80%以上,一部分是测数据,占总数据集的20%一下。测试时,你从冰箱里拿出一个苹果和一个梨,问宝宝:“宝宝,这是什么呀?”。这就是监督学习的测试过程。
在测试中,宝宝把苹果认错了,你分析发现,原来你教宝宝的时候用的是红苹果,测试时,用的是青苹果。这说明你对数据划分的不合理,训练数据中应该包括红苹果和青苹果。
为了避免这个问题,在训练时,先把数据随机打乱,再把数据分成训练数据和测试数据。
其实在真正的监督学习中,学习过程类型与上面说的类似,只是在学习时,使用了一些算法,数据量级也是上百万,上千万,甚至上亿的。
为了训练出更好的机器学习模型,我们会先选择一个合适的机器学习算法,再为这个算法准备好不同的参数。
在训练时,我们把学习算法和参数结合起来,组合成一个模型。为选出一个最好的模型,我们会使用一些交叉验证法,计算出一个得分,哪个模型得分高就选哪个模型。
交叉验证法有很多种,我们一般使用K折交叉验证。K折交叉验证是把训练数据分成K份,然后依次拿出一份做为验证数据,其剩下他的K-1份数据做为训练数据,用来训练机器学习模型,训练完成后,再拿验证数据,测试模型得分。 这样循环执行K次,然后再把每次验证得分加一起算平均值,作为模型的得分,得分最高的模型,就是我们选取的模型。
然后再用测试数据测试我们选取的模型,看看它的正确率怎么样。
有时我们在训练时,得分很高,但是在测试时,正确率却很低。我们把这种现象叫过拟合。过拟合出现的原因是训练条件太苛刻了。比如,你在教宝宝认苹果的时候,拿出一个红苹果,对宝宝说:“宝宝,这是苹果,它的颜色的红的,上面还有个把。” 然后你再拿出来一个红色没把的苹果,他就不认识了。因为你教他的时候,条件太苛刻了,红色带把的苹果叫苹果。这就叫过拟合。
出现过拟合,那么我们就需要,调整参数,再重新训练。找到最好的模型,然后测试。直到测试的正确率满意为止。
相关文章推荐
- 看一遍人类动作就能模仿,能理解语义的谷歌机器人登上无监督学习的新高度
- 有监督学习和无监督学习的简单理解
- 模式识别中监督学习与非监督学习的简易理解,摘自百度
- 机器学习两种方法——监督学习和无监督学习(通俗理解)
- Qt多线程学习-用例子来理解多线程
- 【Scikit-Learn 中文文档】内核岭回归 - 监督学习 - 用户指南 | ApacheCN
- 【Scikit-Learn 中文文档】广义线性模型 - 监督学习 - 用户指南 | ApacheCN
- java学习笔记十——堆和栈的理解
- [Erlang 学习笔记] 对 erlang 中 Application 的理解
- 【Scikit-Learn 中文文档】最近邻 - 监督学习 - 用户指南 | ApacheCN
- 【记录】io多路复用的学习和理解
- 深入理解计算机系统 学习小结
- 斯坦福 机器学习-第一章监督学习
- 构造IOCTL命令的学习心得-----_IO, _IOR, _IOW, _IOWR 幻数的理解
- FileReader类的读取文件的学习和理解
- 【Scikit-Learn 中文文档】特征选择 - 监督学习 - 用户指南 | ApacheCN
- 学习Java时自己的一些重要理解
- POJO与javaBean学习整理,对框架集成的理解,以及javaEE技术规范
- 马牛的C#学习(第四天)-从windows应用程序理解OOP|定义类|构造函数的执行顺序
- 卷积神经网络学习理解(CNN)