周志华《机器学习》课后习题解答系列(七):Ch6.2 - 支持向量分析实验
2017-07-05 10:11
671 查看
查看相关答案和源代码,欢迎访问我的Github:PY131/Machine-Learning_ZhouZhihua.
![](https://oscdn.geek-share.com/Uploads/Images/Content/201908/20/0a99d6411c912aaf41c891ab670d95a1)
![](https://oscdn.geek-share.com/Uploads/Images/Content/201908/20/8827db70746a9da5bfbab14e53b08c7f)
(注:本题实验基于python,另外,sklearn库已集成了libsvm库,并在其基础上扩展形成了自带svm工具库,这里我们采用该sklearn-svm工具库开展实验)
查看本实验完整代码
![](https://oscdn.geek-share.com/Uploads/Images/Content/201908/20/e1a17f28bed79109baec0209cba728e6)
绘制出决策边界,同时标记出支持向量如下图:
线性核函数:
![](https://oscdn.geek-share.com/Uploads/Images/Content/201908/20/233c77bfe84353b8d4b4aa28ab84f8c8)
高斯核函数:
![](https://oscdn.geek-share.com/Uploads/Images/Content/201908/20/3c676c66429c1b622c9df5369134247b)
可以估计出,面向该题数据集,高斯核函数的拟合更好(间隔更小),且用到的支持向量更少(当前参数设置下有9个支持向量)。
sklearn官网 - sklearn.svm.SVC.
sklearn官网 - SVM Exercise(使用样例)
6.2 支持向量分析实验
(注:本题实验基于python,另外,sklearn库已集成了libsvm库,并在其基础上扩展形成了自带svm工具库,这里我们采用该sklearn-svm工具库开展实验)
查看本实验完整代码
数据预处理
生成数据watermelon_3a.csv,将类别编码为 0(否),1(是),基于pandas读取数据,做出可视化界面如下:
训练与分析
采用sklearn.svm.svc训练并得出支持向量,实验段程序示意如下:
from sklearn import svm # initial svc = svm.SVC(C=1000, kernel=kernel) # classifier 1 based on linear kernel # train svc.fit(X, y) # get support vectors sv = svc.support_vectors_
绘制出决策边界,同时标记出支持向量如下图:
线性核函数:
高斯核函数:
可以估计出,面向该题数据集,高斯核函数的拟合更好(间隔更小),且用到的支持向量更少(当前参数设置下有9个支持向量)。
参考
本文涉及的一些参考资料如下:sklearn官网 - sklearn.svm.SVC.
sklearn官网 - SVM Exercise(使用样例)
相关文章推荐
- 周志华《机器学习》课后习题解答系列(六):Ch5.10 - 卷积神经网络实验
- 周志华《机器学习》课后习题解答系列(六):Ch5.8 - SOM网络实验
- 周志华《机器学习》课后习题解答系列(四):Ch3.5 - 编程实现线性判别分析
- 周志华《机器学习》课后习题解答系列(六):Ch5.7 - RBF网络实验
- 周志华《机器学习》课后习题解答系列(四):Ch3.4 - 交叉验证法练习
- 周志华《机器学习》课后习题解答系列(一):目录
- 周志华《机器学习》课后习题解答系列(六):Ch5.6 - BP算法改进
- 周志华《机器学习》课后习题解答系列(五):Ch4.3 - 编程实现ID3算法
- 周志华《机器学习》课后习题解答系列(七):Ch6 - 支持向量机
- 周志华《机器学习》课后习题解答系列(四):Ch3 - 线性模型
- 周志华《机器学习》课后习题解答系列(三):Ch2 - 模型评估与选择
- 周志华《机器学习》课后习题解答系列(六):Ch5.5 - BP算法实现
- 周志华《机器学习》课后习题解答系列(五):Ch4.4 - 编程实现CART算法与剪枝操作
- 周志华《机器学习》课后习题解答系列(五):Ch4 - 决策树
- 周志华《机器学习》课后习题解答系列(六):Ch5 - 神经网络
- 周志华《机器学习》课后习题解答系列(七):Ch6.3 - SVM对比实验
- 周志华《机器学习》课后习题解答系列(二):Ch1 - 绪论
- 周志华《机器学习》课后习题解答系列(四):Ch3.3 - 编程实现对率回归
- 機器學習基石(Machine Learning Foundations) 机器学习基石 作业四 课后习题解答
- 机器学习--周志华--课后习题3.3答案