《Python 机器学习及实践--从零开始通往kaggle竞赛之路》笔记

《Python 机器学习及实践–从零开始通往kaggle竞赛之路》很基础

主要介绍了Scikit-learn，顺带介绍了pandas、numpy、matplotlib、scipy。

本书代码基于python2.x。不过大部分可以通过修改print()来适应python3.5.x。

提供的代码默认使用 Jupyter Notebook，建议安装Anaconda3。

原书数据和代码下载地址：

http://pan.baidu.com/s/1dENAUTr # 数据

http://pan.baidu.com/s/1geN6QbD # 第一章代码

http://pan.baidu.com/s/1kVo3fr5 #第二章代码

http://pan.baidu.com/s/1mhQe4g4 #第三章代码

http://pan.baidu.com/s/1nvitu8T #第四章代码

最好是到https://www.kaggle.com注册账号后，运行下第四章的代码，感受下。

监督学习：

2.1.1分类学习（Classifier）

2.1.1.1 线性分类器（Linear Classifier）

2.1.1.2 支持向量机(Support Vector Classifier)

2.1.1.3 朴素贝叶斯(Native Bayes)

2.1.1.4 K近邻(K-Nearest Neighbor)

2.1.1.5 决策树(Decision Tree)

2.1.1.6 集成模型(Ensemble):随机森林：Random Forest Classifier，梯度提升决策树：Gradient Tree Boosting。

2.1.2 回归预测（Regressor）

2.1.2.1 线性回归器

2.1.2.2 支持向量机

2.1.2.3 K近邻

2.1.2.4 回归树

2.1.2.5 集成模型

2.2 无监督学习

2.2.1 数据聚类

2.2.1.1 K均值算法(K-means)

2.2.2 特征降维

2.2.2.1 主成分分析(Principal Component Analysis:PCA)

3.1 模型使用技巧

3.1.1 特征提升

3.1.1.1 特征抽取

3.1.1.2 特征筛选

3.1.2 模型正则化

3.1.2.1 欠拟合与过拟合

3.1.2.2 L 1 范数正则化

3.1.2.3 L 2 范数正则化

3.1.3 模型检验

3.1.3.1 留一验证

3.1.3.2 交叉验证

3.1.4 超参数搜索

3.1.4.1 网格搜索

3.1.4.2 并行搜索

3.2 流行库/模型实践

自然语言包：NLTK

词向量：Word2Vec

XGBoost模型

TensorFlow