特征选择中的搜索算法简介

本文简单介绍了特征选择中常用的搜索算法，算是对自己过去几个月看的特征选择算法的一个简单总结。文章综合整理了很多互联网资料。不过还是不够系统。

先来回答什么是搜索算法这个问题：
    书中如是定义：搜索算法是利用计算机的高性能来有目的的穷举一个问题解空间的部分或所有的可能情况，从而求出问题的解的一种方法。
    比如蚂蚁觅食就可以把它看成蚂蚁的一种搜索最短路径的一种方法（受此启发人们提出了蚁群优化算法）
    再比如在一些离散的点集中，找出使方程 取最大值的点也可以认为是一种用来解决数学优化问题的搜索方法。
   再比如寻路问题：



要找到一条粉红色的点到蓝紫色的点的最小路径。（图中用的是Dijkstra搜索算法）
如果问题是这样的呢



显然蓝色的路径比红色的更近，这就产生了常说的局部最优问题。
回到第一副图，如果告诉你蓝紫色的点在粉红色的点的右方，也就是我们有了先验信息。



搜索工作可以大大简化。（图中用的是贪心最好优先算法）
二．特征选择中的搜索算法
特征选择中常用到的搜索算法很多，但大致分类可以用下图表示。



注：该图来自互联网，个人觉得：并不完全，并不严谨。看看就好。