在机器学习中，单棵决策树的结构太简单会因无法捕捉数据复杂规律导致欠拟合，增加树的复杂度，过度贴合训练数据，又会因记忆噪声陷入过拟合，泛化能力骤降。显然，单一模型很难同时兼顾 “精准拟合” 与 “稳健泛...
GBDT 是一种强大的集成学习方法，广泛用于分类和回归问题。它属于提升（Boosting）算法的一种，通过多个弱学习器（通常是决策树）结合起来提高模型的准确性。 1. 二分类 对于 GBDT 应用到二...
梯度提升树（GBDT，Gradient Boosting Decision Tree）回归是一种集成学习方法，它通过逐步构建多个决策树来优化预测结果，尤其适用于回归问题。GBDT 通过“加法模型”逐步...
1. 对数损失函数 其中， 是真实标签， 是模型的输出（即得分），而 是通过 Sigmoid 函数映射得到的预测概率。 由损失函数 对 求导： 最终得到负梯度为： 2. 指数损失函数 其中， 是真实标...
冀公网安备13050302001966号