Boosting — carlos9310

[carlos9310]

https://carlos9310.github.io/2019/07/31/Boosting/

集成(ensemble)学习通过构建并结合多个学习器来完成学习任务。为了使集成后的学习器获得更好的性能，个体学习器在保证一定的准确性(不用过高，但不能太低)的同时，还需具有一定的多样性。即个体学习器要“好而不同”。根据个体学习器的生成方式，集成学习大致分为两大类。 Bagging(Bootstrap aggregating 引导聚集) 个体学习器间不存在强依赖关系，可并行化地生成 用于减少方差 Boosting 个体学习器间存在强依赖关系，必须串行化地生成。具体算法有AdaBoost、GBM、GBDT、XGBoost、LightGBM等 用于减少偏差