Stanford Machine Learning - Lecture 01

为了对机器学习有一个大体的了解，开始看网易上斯坦福机器学习的公开课，记录一些东西在这里。

机器学习在我们生活中的应用已经很多了，它已经成为了IT界一项很重要的技能，learning algothrim在各种产业中都有广泛的应用。

这门课需要一些高等数学，线性代数，概率统计和数据结构的基础。

什么是机器学习：

Arthur Samuel (1959) Machine Learning : Field of study that gives computers the ability to learn without being explicitly programmed.

非正式的定义：

机器学习就是在不直接针对具体问题编程的情况下赋予计算机学习能力的一个研究领域。

Tom Mitchell (19998) Well-posed Learning Problem: A computer program is said to learn from experience E with respect to some task T and some performance measure P, if its performance on T, as measured by P,
improves with experience E.

更正式的定义：

一个合理的学习问题应该这样定义：对于一个计算机程序来说，给它一个任务T和一个性能测试方法P，如果在经验E的影响下，P对T的测量结果得到了改进，那么就说该程序从E中学习。

该课程主要分为四个部分：

第一部分是 Supervised Learning (监督学习) ，有regression (回归问题)和classification(分类问题)。监督学习是通过一些确定结果的数据来学习。

第二部分是 Learning Theory (学习理论)，有关机器学习的一些理论知识。

第三部分是 Unsupervised Learning (无监督学习)，主要有clustering(聚类问题)。无监督学习是通过一些未知结果的数据来进行学习。

第四部分是 Reinforcement Learning (强化学习)，核心reward function(回报函数)。通过结果来不断修正算法。

结束