机器学习 第一章 绪论

1.1 引言

机器学习学科定义：研究如何通过计算手段，利用经验改善系统自身性能。

主要内容：从数据产生模型的算法。（经验以数据形式存储）

学习算法基于数据产生模型；出现新情况，模型提供相应判断。

1.2 基本术语

学习就是要得到一个从输入到输出的映射。

样本独立同分布。

1.3 假设空间

假设的表示一旦确定，假设空间以及其规模大小就确定了。

通配符也是一种状态。

图1.2 基于是，学习出最下层，否学习出上层

1.4 归纳偏好

用于解决学习出的结果冲突问题。

任意一个机器学习算法必须有归纳偏好。

奥卡姆剃刀，选偏好。

NFL定理有前提，问题的分布是均匀的。所以，我们的算法一个是针对我们要解决的问题的。

归纳偏好和问题一定要匹配。

1.5 发展历程

始于1950，兴于1980。