关于

树模型是一个很经典的模型，而且不断有新的东西产生，比如randomforest 和 xgboost。
因此有必要单独为它做一个专题。

树模型简史

随机森林

GBDT

xgboost

一些待整理的记录

Leo Breiman, 1928 - 2005
- 1954: PhD Berkeley (mathematics)
- 1960 -1967: UCLA (mathematics)
- 1969 -1982: Consultant
- 1982 - 1993 Berkeley (statistics)
- 1984 “Classification & Regression Trees”
(with Friedman, Olshen, Stone)
- 1996 “Bagging”
- 2001 “Random Forests”

Linear discriminant analysis (1930’s)
- Logistic regression (1944)
- Nearest neighbors classifiers (1951)

参考

1. Leo Breiman, RANDOM FORESTS, 2011, https://www.stat.berkeley.edu/~breiman/randomforest2001.pdf