自适应提升算法(AdaBoost,Adaptive Boosting)

本课程通过AdaBoost训练机制与指数损失推导,讲解样本权重与弱分类器加权投票,解决弱模型组合为强分类器问题,帮助吃透提升机制。

免费 统计学习方法 程序员 · 老孟 程序员 · 老孟 3 篇文章 1 小时 36 分 1097 次播放 已完成
自适应提升算法(AdaBoost,Adaptive Boosting)

你将学会

  • 理解 AdaBoost 组合弱学习器为强分类器的机制
  • 掌握样本权重与模型权重如何协同迭代
  • 能从指数损失推导模型权重与错误率约束
  • 能跟随完整手算案例走通训练全过程
  • 建立集成学习中关注难分样本的思维模型
课程内容 3 篇
附录文章 0 篇
互动留言

1/3 AdaBoost 自适应提升(一) 基本原理

介绍一种具有里程碑意义的集体学习方法,它在理论上证明了把多个普通模型合理组合也能得到强大的分类器。文章用两个关键机制解释其工作方式:被分错样本的权重会被提高,迫使后续模型专攻难点,而表现更好的模型在最终投票中也拥有更高话语权。读完能理解这套自适应方法的核心思想及其在风控、识别等领域的应用价值。

2/3 AdaBoost 自适应提升(二)公式推导

把上一篇里偏口语的直觉描述,变成可执行的精确数学规则。文章说明错分样本的权重究竟该调整多少、每个弱模型的话语权又如何由其准确率决定,并借助损失函数的最小化一步步推导出相应结论。读完能明白这套自适应机制背后的量化依据,让算法不再停留在比喻和口号层面,而能被一步步写成可运行的代码、真正落地实现。

3/3 AdaBoost 自适应提升(三)计算案例

围绕一个仅含十个样本、三个类别的小任务,完整演练模型的迭代训练过程。文章从样本等权初始化开始,逐轮展示如何训练一棵弱树、计算错误率与模型权重、再据此更新下一轮的样本分布,直到满足停止条件。跟着表格里的数字一步步走完,读者能真切体会权重如何在被错分的样本上不断累积,把前面讲过的抽象原理真正落到实处。

📚

该章节暂无关联学习文章