计算学习理论笔记
2016-05-08 23:41
375 查看
考虑三种模型一致性模型、PAC模型、错误边界模型。
CM模型存在的问题:
未考虑模型的泛化能力
假设不存在噪声干扰
DNF是可学习的,但是k-DNF却不是
严格的一致性将导致过拟合
训练数据和测试数据独立同分布
数据有标签
基本的问题为:
- 得到符合要求的假设需要的样本容量
- 模型的泛化能力
研究在线学习(online learning,vs batch or offline learning)情景的错误.
没有关于样本分布的假设
没有单独的训练集
学习器预测每一个遇到的样本
需要计算出错量
学习过程为:
学习器接受未标记数据x∈X
学习器预测x的类别
学习器被告知x的正确分类
目标:最小出错数量
1.在特定的应用环境中什么学习器是足够达到学习目的的;
2.根据结构风险最小化的原则选择最好的学习器。
感知机
神经网络
决策列表(decision List)
支持向量机
…
一致性模型
一致性模型(Consistency Model,CM)CM模型存在的问题:
未考虑模型的泛化能力
假设不存在噪声干扰
DNF是可学习的,但是k-DNF却不是
严格的一致性将导致过拟合
PAC
研究batch model情景,模型假设为:训练数据和测试数据独立同分布
数据有标签
基本的问题为:
- 得到符合要求的假设需要的样本容量
- 模型的泛化能力
错误边界模型
mistake bound model研究在线学习(online learning,vs batch or offline learning)情景的错误.
没有关于样本分布的假设
没有单独的训练集
学习器预测每一个遇到的样本
需要计算出错量
学习过程为:
学习器接受未标记数据x∈X
学习器预测x的类别
学习器被告知x的正确分类
目标:最小出错数量
FindS
having 算法
The Hedge Algorithm
expert
感知机算法
最大似然模型
Maximum Likelihood modelVC维
计算VC维的目的:1.在特定的应用环境中什么学习器是足够达到学习目的的;
2.根据结构风险最小化的原则选择最好的学习器。
计算学习器的VC维
决策树感知机
神经网络
决策列表(decision List)
支持向量机
…
相关文章推荐
- GoogleWebAccelerator用的Proxy.pac代理原理介绍[转]
- 10 Cross validation, VC dimension
- Boosting学习(一)——PAC学习模型到Boosting
- VC维的理解
- EBS-PAC成本更新事务处理
- 浅析:AD组添加成员后为何客户端要注销?
- Ubuntu 16.04下PAC软件闪退故障处理
- java代码使用.pac脚本自动配置代理服务器策略
- windows PAC脚本解析的软件 pac syntax检查
- 第10节-VC维和模型选取
- 周志华《Machine Learning》学习笔记(14)--计算学习理论
- pac template for white list
- fedora 24 重新加载 pac 文件 (gui)
- 理解PAC学习理论
- Vapnik-Chervonenkis dimension
- [机器学习]计算学习理论
- 关于java中的锁的理解(通俗易懂)
- nagios插件之监控f5pool中cngw主机session数