机器学习基础（二十二）—— decision tree

决策树仍是一棵树，树（数据结构）的一个重要特性就是可递归。

递归的观点来看：

G(x)=∑c=1C1b(x)=c⋅Gc(x)

（1）G(x)：full-tree hypothesis

（2）b(x)：branching criterion

（3）Gc(x)：sub-tree hypothesis at the c-th branch

decision tree 并不神秘：if 与 decision tree

我如果问你，你有实现过 decision tree 吗？你或许会回答没有。可兹要是位程序员，谁没有写过 if 条件判断（断言）。接下来的程序我们会发现，if 条件断言与 decision tree（逻辑上的树形结构之间）存在着千丝万缕的联系。

if (income > 100000) return true;
else {
if (debt > 50000) return false;
else return true;
}

就是一个具有三个叶子节点的 decision tree。