可能是最简单的感知机算法

前言

最近学习统计机器学习，主要是参考李航的《统计学习》，看完感知机后准备用python实现一下书上的例子。自己先在网上搜索相关代码，可是看了半天，大家的实现都太复杂了，代码动辄上百行，而且将功能拆分成各个及其短小的函数，显得十分不紧凑，而且不容易理解掌握，因此，想自己实现一个更加简单的版本，方便初学者理解和掌握，所以有了以下的代码。

代码

# -*- coding:utf8 -*-
import os
import sys

import numpy as np

#input
x1 = np.array([3,3])
x2 = np.array([4,3])
x3 = np.array([1,1])
y = np.array([1,1,-1])
x = np.array([x1,x2,x3])
gram = np.dot(x, x.T)
print "x:\n",x
print "gram:\n",gram

#params
a = np.array([0,0,0])
b = 0;

count = 0;
condition = 0;
samples_number = len(x)
while(count < (samples_number-1)):
for i in range(samples_number):
condition = np.dot(a*y, gram[i])
condition = (condition + b) * y[i]
if condition <= 0 :
a[i] += 1  #update parmas
b += y[i]
count = 0
else:
count += 1

w =np.dot( a*y,x)
print "a:", a
print "w:", w
print "b:", b

总结

关键的部分只是while循环内部，初学者只要看懂这个循环就可以很快掌握感知机的写法，理解之后再写出更强壮的代码应该是比较容易了。

自己通过这个程序学习了numpy中array的用法。