机器学习算法笔记--sklearn(1)--knn&kvm区别

1、一般分类任务主要有两个步骤：1.训练；2.测试。
    对于SVM，是先在训练集上训练一个模型，然后用这个模型直接对测试集进行分类。这两个步骤是独立的。
    对于KNN，没有训练过程。只是将训练数据与训练数据进行距离度量来实现分类。
2、KNN和SVM都属于监督学习算法。KNN是惰性学习机制，就是训练的过程基本不需要太多处理，不过做文本这块可能也需要计算并保留一下经验IDF。SVM是 比较新的分类算法，训练的时间复杂度比较高，特别是多个类别的时候，但是分类准确率一般来说要高于KNN。

3、svm， 就像是在河北和北京之间有一条边界线，如果一个人居住在北京一侧就预测为北京人，在河北一侧，就预测为河北人。但是住在河北的北京人和住在北京的河北人就会被误判。knn，就是物以类聚，人以群分。如果你的朋友里大部分是北京人，就预测你也是北京人。如果你的朋友里大部分是河北人，那就预测你是河北人。不管你住哪里。