信息增益(Shannon Information Gain)

信息增益是决策树算法中用于特征选择的一个重要指标。在构建决策树时,我们需要确定哪个特征最能有效地分割数据,使得子节点的纯度最高。信息增益就是衡量这种分割能力的指标。 信息增益的计算 … 继续阅读 信息增益(Shannon Information Gain)