Experiments with a New Boosting Algorithm - Freund, Schapire

Experiments with a New Boosting Algorithm - Freund, Schapire (ResearchIndex)

http://citeseer.ist.psu.edu/freund96experiments.html

1996年現在の実験を中心にまとめた論文。Weak learner(FindAttrTest, FindDecRule, C4.5)と、アンサンブル学習アルゴリズム(Adaboost.M1, Adaboost.M2, Bagging)の組み合わせをUCI ML Repositoryのデータと手書き数字認識へ適用し、評価・比較を行っているのが主要なContribution。

Adaboost.M1とAdaboost.M2のアルゴリズムと、training errorのupper boundを与える定理がピシッとまとまっている。定理の証明はfull paperを。

A Decision-Theoretic Generalization of on-Line Learning and an Application to Boosting - Freund, Schapire (ResearchIndex)

http://citeseer.ist.psu.edu/89601.html

Adaboost.M2はError Correcting Output Coding (ECOC)の視点を得て、拡張されている。

Using Output Codes to Boost Multiclass Learning Problems - Schapire (ResearchIndex)

http://citeseer.ist.psu.edu/4853.html

ECOCはこちらを。

Solving Multiclass Learning Problems via Error-Correcting Output Codes - Dietterich, Bakiri (ResearchIndex)

http://citeseer.ist.psu.edu/dietterich95solving.html