《模式识别与智能计算-matlab技术实现》学习笔记三

1.3分类器设计

模式识别算法的设计都是强调“最优”或“最佳”，希望所设计的系统在性能上最优。这种“最优”是针对某一种设计原则而言的，及准则。

1.3.1分类器设计准则如下：

1）最小误差率准则；

2）最小风险准则；

3）近邻准则：依据是同类物体在特征空间具有聚类特性的原理；

4）Fisher准则；

5）均方误差最小准则；

6）感知准则。

分类器设计方法如下：

1）模板匹配；

2）判别函数：概率分布、几何判别

3）神经网络分类法；

4）基于规则推理的方法：决策树和粗糙集理论等；

1.3.2判别函数

函数类型选择（线性/非线性）、参数确定；

1.3.3分类器的选择

设特征向量特征分量数目为n，可分类数目为M，符合一定的条件时可以使用线性分类器；正态分布条件下一般适合使用二次函数决策面：

1）若可分类数目M=2(n+1)约等于2n，则几乎无法用一个线性函数分类器将他们分成两类；

2）在模式识别中，理论上，M>n+1的线性分类器不能应用，但其中一类的特征向量聚集度高，则无论M多大线性分类器效果都是良好的。

1.3.4训练与学习

1）训练集

2）测试集

3）系统评价原则

1.4聚类定义与设计准则（略）