机器学习复习——GBDT

GDBT：

GBDT(Gradient Boosting Decision Tree) 又叫 MART（MultipleAdditive Regression Tree)，它是一种迭代的决策树算法。
该算法由多棵决策树组成，所有树的输出结果累加起来就是最终答案。
它在被提出之初就和SVM一起被认为是泛化能力（generalization)较强的算法。近些年更因为被用于搜索排序的机器学习模型而引起大家关注。

GBDT是回归树，不是分类树。其核心就在于，每一棵树是从之前所有树的残差中来学习的。
为了防止过拟合，和Adaboosting一样，也加入了boosting这一项。

关于GDBT的介绍可以可以参考：GBDT（MART）迭代决策树入门教程
|简介