在决策树中,除了用似然估计推导出的信息熵损失函数之外,还有一个基尼系数
怎么理解呢?针对一个贷款人员是否违约的二分类问题,我们来描述一下
对于一个用户A,假如我们的模型预测出他违约的概率为p,则不违约的概率为1-p。这时我们就可以认为该用户的GINI系数为p(1-p)当p=0.5时,p(1-p)最大,此时用户有一半的概率违约,一半的概率不违约,这等于废话,说明模型的对该用户的预测能力很弱,模型基本上没有用;但是当p=1时,我们预测用户一定会违约,或者p=0时,用户一定不会违约,此时GINI=0,我们的模型预测能力很强。然而我们有很多的用户,所以此时要把所有的用户的基尼系数都加起来,来评判我们的模型优劣。也就得到了