1. 对数损失函数

其中，\( y_i \in \{0,1\} \) 是真实标签，\( f(x_i) \) 是模型的输出（即得分），而 \( \sigma(f(x_i)) \) 是通过 Sigmoid 函数映射得到的预测概率。

由损失函数 \( L(y_i, f(x_i)) \) 对 \( f(x_i) \) 求导：

最终得到负梯度为：

2. 指数损失函数

其中，\( y_i \in \{-1,+1\} \) 是真实标签，\( f(x_i) \) 是模型的预测分数。

由损失函数 \( L(y_i, f(x_i)) \) 对 \( f(x_i) \) 求导：

最终得到负梯度为：