大数据在教育中的应用 part2笔记
2014-12-14 20:03
190 查看
什么是交叉检验(K-fold cross-validation)
K层交叉检验就是把原始的数据随机分成K个部分。在这K个部分中,选择一个作为测试数据,剩下的K-1个作为训练数据。交叉检验的过程实际上是把实验重复做K次,每次实验都从K个部分中选择一个不同的部分作为测试数据(保证K个部分的数据都分别做过测试数据),剩下的K-1个当作训练数据进行实验,最后把得到的K个实验结果平均。
http://www.ilovematlab.cn/thread-49143-1-1.html
[align=left]交叉验证(CrossValidation)方法思想简介[/align]
[align=left]以下简称交叉验证(Cross Validation)为CV.CV是用来验证分类器的性能一种统计分析方法,基本思想是把在某种意义下将原始数据(dataset)进行分组,一部分做为训练集(train set),另一部分做为验证集(validation set),首先用训练集对分类器进行训练,在利用验证集来测试训练得到的模型(model),以此来做为评价分类器的性能指标.常见CV的方法如下:[/align]
[align=left] [/align]
[align=left]1).Hold-Out Method[/align]
[align=left]
将原始数据随机分为两组,一组做为训练集,一组做为验证集,利用训练集训练分类器,然后利用验证集验证模型,记录最后的分类准确率为此Hold-OutMethod下分类器的性能指标.此种方法的好处的处理简单,只需随机把原始数据分为两组即可,其实严格意义来说Hold-Out Method并不能算是CV,因为这种方法没有达到交叉的思想,由于是随机的将原始数据分组,所以最后验证集分类准确率的高低与原始数据的分组有很大的关系,所以这种方法得到的结果其实并不具有说服性.[/align]
[align=left] [/align]
[align=left]2).K-fold Cross Validation(记为K-CV)[/align]
[align=left]
将原始数据分成K组(一般是均分),将每个子集数据分别做一次验证集,其余的K-1组子集数据作为训练集,这样会得到K个模型,用这K个模型最终的验证集的分类准确率的平均数作为此K-CV下分类器的性能指标.K一般大于等于2,实际操作时一般从3开始取,只有在原始数据集合数据量小的时候才会尝试取2.K-CV可以有效的避免过学习以及欠学习状态的发生,最后得到的结果也比较具有说服性.[/align]
[align=left] [/align]
[align=left]3).Leave-One-Out Cross Validation(记为LOO-CV)[/align]
[align=left]
如果设原始数据有N个样本,那么LOO-CV就是N-CV,即每个样本单独作为验证集,其余的N-1个样本作为训练集,所以LOO-CV会得到N个模型,用这N个模型最终的验证集的分类准确率的平均数作为此下LOO-CV分类器的性能指标.相比于前面的K-CV,LOO-CV有两个明显的优点:[/align]
[align=left]①
a.每一回合中几乎所有的样本皆用于训练模型,因此最接近原始样本的分布,这样评估所得的结果比较可靠。[/align]
[align=left]②
b.实验过程中没有随机因素会影响实验数据,确保实验过程是可以被复制的。[/align]
[align=left]但LOO-CV的缺点则是计算成本高,因为需要建立的模型数量与原始数据样本数量相同,当原始数据样本数量相当多时,LOO-CV在实作上便有困难几乎就是不显示,除非每次训练分类器得到模型的速度很快,或是可以用并行化计算减少计算所需的时间.[/align]
[align=left] [/align]
[align=left] [/align]
[align=left] [/align]
[align=left] [/align]
[align=left]如果你理解 k-fold cross validation的话,其实这个和它的意思是差不多的。k-fold,就是取整个样本的1/k作为预测样本,(k-1)/k作为训练样本。当用训练样本对数据作出模型后,再用预测样本来预测。
leave-one-out就是把n-1个样本作为训练集,剩下一个样本作为预测集。并且循环,使得每个样本都作为一次预测集,然后计算交叉验证的正确率。[/align]
[align=left] [/align]
[align=left]http://blog.xuite.net/x5super/studyroom/61471385-%E4%B8%80%E7%AF%87%E5%BE%88%E6%A3%92%E7%9A%84%E6%B8%AC%E8%A9%A6%28%E5%9B%9E%E6%B8%AC%29%E6%8A%80%E8%A1%93%E6%96%87%E7%AB%A0[/align]
[align=left] [/align]
[align=left] [/align]
相关文章推荐
- 浅谈教育行业及细分领域的大数据应用
- 关于“计算机在教育教学中的应用”的思考
- 受教育部门青睐 Linux 将在韩国学校普及应用
- 移动互联时代:儿童教育重在内容和应用
- CSTO线下沙龙:教育领域的应用数字化
- 从大数据时代上看来的另一个有趣的应用 - reCAPTCHA
- 虚拟技术应用将成网络教育的新趋势
- IBM XIV存储系统提升大数据应用工作效率
- 云计算在教育资源均衡化中应用的探讨
- CSTO线下沙龙:教育领域的应用数字化
- 关于《我从教育网收集了200多篇关于组态软件和人机界面软件开发、应用的文章,想要的朋友给我发邮件呀》的申明
- WSDOM教育行业应用流量管理解决方案
- 2009人工智能与教育应用国际学术会议 (ICAIE'09)
- 流媒体技术在教育中的应用
- 基于Web Service的系统集成技术在网络教育平台中的应用
- 关于《我从教育网收集了200多篇关于组态软件和人机界面软件开发、应用的文章,想要的朋友给我发邮件呀》的再次申明
- 采购教育行业办公应用系统平台,有相关产品的请与我联系
- 2007教育系统网络如何围绕应用进行管理
- 湖南电子信息应用教育中心