深入浅出理解决策树算法（二）-ID3算法与C4.5算法

1  引入

从深入浅出理解决策树算法（一）-核心思想文章中，我们已经知道了决策树最基本也是最核心的思想。

那就是其实决策树就是可以看做一个if-then规则的集合。我们从决策树的根结点到每一个都叶结点构建一条规则。

并且我们将要预测的实例都可以被一条路径或者一条规则所覆盖。

如下例：假设我们已经构建好了决策树，现在买了一个西瓜，它的特点是纹理是清晰，根蒂是硬挺的瓜，你来给我判断一下是好瓜还是坏瓜，恰好，你构建了一颗决策树，告诉他，没问题，我马上告诉你是好瓜，还是坏瓜？

根据决策树的算法步骤，我们可以得到下面的图示过程：

到达叶子结点后，从而得到结论。我这个瓜的判断是坏瓜。（叶子结点就是类别了）

算法思路在上篇文章都讲解过，这里我们重点来说一下，在每一层的生长过程中，如何选择特征！

每一层选择好了特征之后，树也就自然建好了。

树建好了，也就万事大吉了（剪枝什么的暂时不讲），来了一个实例，我直接遍历树，到达叶子结点，就可以获取该实例的类别了。

决策树学习的关键其实就是选择最优划分属性，希望划分后，分支结点的“纯度”越来越高。

那么“纯度”的度量方法不同，也就导致了学习算法的不同，这里我们讲解最常见的俩种算法，ID3算法与C4.5算法。

2  ID3算法

我们既然希望划分之后结点的“纯度”越来越高，那么如何度量纯度呢？

“信息熵”是度量样本集合不确定度（纯度）的最常用的指标。

在我们的ID3算法中，我们采取信息增益这个量来作为纯度的度量。

我们选取使得信息增益最大的特征进行分裂！那么信息增益又是什么概念呢？

我们前面说了，信息熵是代表随机变量的复杂度（不确定度）通俗理解信息熵，条件熵代表在某一个条件下，随机变量的复杂度（不确定度）通俗理解条件熵。

而我们这里说的的信息增益恰好是：信息熵-条件熵。

我们看如下定义：

当前样本集合D 中第 k 类样本所占的比例为 pk（k其实是下标，微信不好打），则 D  的信息熵定义为

离散属性a 有 V 个可能的取值 {a1,a2,…,aV}；样本集合中，属性 a 上取值为 av 的样本集合，记为 Dv。

用属性a 对样本集 D 进行划分所获得的“信息增益”

信息增益表示得知属性 a 的信息而使得样本集合不确定度减少的程度

那么我们现在也很好理解了，在决策树算法中，我们的关键就是每次选择一个特征，特征有多个，那么到底按照什么标准来选择哪一个特征。

对于ID3算法来说，这个问题就可以用信息增益来度量。

如果选择一个特征后，信息增益最大（信息不确定性减少的程度最大），那么我们就选取这个特征。

好的，我们现在已经知道了选择指标了，就是在所有的特征中，选择信息增益最大的特征。那么如何计算呢？看下面例子：

正例(好瓜)占 8/17，反例占 9/17 ，根结点的信息熵为

计算当前属性集合{色泽，根蒂，敲声，纹理，脐部，触感}中每个属性的信息增益

色泽有3个可能的取值：{青绿，乌黑，浅白}

D1(色泽=青绿) = {1, 4, 6, 10, 13, 17}，正例  3/6，反例 3/6

D2(色泽=乌黑) = {2, 3, 7, 8, 9, 15}，正例  4/6，反例 2/6

D3(色泽=浅白) = {5, 11, 12, 14, 16}，正例  1/5，反例 4/5

3 个分支结点的信息熵

那么我们可以知道属性色泽的信息增益是：

同理，我们可以求出其它属性的信息增益，分别如下：

于是我们找到了信息增益最大的属性纹理，它的Gain(D，纹理) = 0.381最大。

所以我们选择的划分属性为“纹理”

如下：

根据纹理属性划分后，我们可以得到了三个子结点。

对于这三个子节点，我们可以递归的使用刚刚找信息增益最大的方法进行选择特征属性，

比如：D1(纹理=清晰) = {1, 2, 3, 4, 5, 6, 8, 10, 15}，第一个分支结点可用属性集合{色泽、根蒂、敲声、脐部、触感}，基于 D1各属性的信息增益，分别求的如下：

于是我们可以选择特征属性为根蒂，脐部，触感三个特征属性中任选一个（因为他们三个相等并最大）。

其它俩个子结点同理，然后得到新一层的结点，再递归的由信息增益进行构建树即可
我们最终的决策树如下：

啊，那到这里为止，我们已经知道了构建树的算法，上面也说了有了树，我们直接遍历决策树就能得到我们预测样例的类别。

那么是不是大功告成了呢？

结果是：不是的

我们从上面求解信息增益的公式中，其实可以看出，信息增益准则其实是对可取值数目较多的属性有所偏好！

现在假如我们把数据集中的“编号”也作为一个候选划分属性。我们可以算出“编号”的信息增益是0.998

因为每一个样本的编号都是不同的（由于编号独特唯一，条件熵为0了，每一个结点中只有一类，纯度非常高啊）。

也就是说，来了一个预测样本，你只要告诉我编号，其它特征就没有用了，这样生成的决策树显然不具有泛化能力。

于是我们就引入了信息增益率来选择最优划分属性！

而信息增益率也是C4.5算法的核心思想。下面就讲解C4.5算法

2  C4.5算法

这次我们每次进行选取特征属性的时候，不再使用ID3算法的信息增益，而是使用了信息增益率这个概念。

首先我们来看信息增益率的公式：

由上图我们可以看出，信息增益率=信息增益/IV(a),说明信息增益率是信息增益除了一个属性a的固有值得来的。

我们一开始分析到，信息增益准则其实是对可取值数目较多的属性有所偏好！（比如上面提到的编号，如果选取编号属性，每一个子节点只有一个实例，可取值数目是最多，而且子节点纯度最高《只有一个类别》，导致信息增益最大，所以我们会倾向于选他，但是已经分析了这种树是不具备泛化能力的）。

但是刚刚我们分析到了，信息增益并不是一个很好的特征选择度量。于是我们引出了信息增益率。

我们来看IV(a)的公式：

属性a的固有值：

IV(触感) = 0.874 ( V = 2 )

IV(色泽) = 1.580 ( V = 3 )

IV(编号) = 4.088 ( V = 17 )

由上面的计算例子，可以看出IV(a)其实能够反映出，当选取该属性，分成的V类别数越大，IV(a)就越大，如果仅仅只用信息增益来选择属性的话，那么我们偏向于选择分成子节点类别大的那个特征。

但是在前面分析了，并不是很好，所以我们需要除以一个属性的固定值，这个值要求随着分成的类别数越大而越小。于是让它做了分母。

这样可以避免信息增益的缺点。

因为一开始我仅仅用信息增益作为我的选择目标，但是 51 30070 51 15534 0 0 2964 0 0:00:10 0:00:05 0:00:05 3083会出现“编号”这些使得类别数目多的属性选择，但是又不具有泛化能力，所以我给他除以一个值（这个值）随着你分的类别越多，我就越大，一定程度上缓解了信息增益的缺点

那么信息增益率就是完美无瑕的吗？

当然不是，有了这个分母之后，我们可以看到增益率准则其实对可取类别数目较少的特征有所偏好！

毕竟分母越小，整体越大。

所以C4.5算法不直接选择增益率最大的候选划分属性，候选划分属性中找出信息增益高于平均水平的属性（这样保证了大部分好的的特征），再从中选择增益率最高的（又保证了不会出现编号特征这种极端的情况）

好的，ID3算法和C4.5算法的基本内容就讲完了，希望对大家有帮助~

参考：

周志华《机器学习》，例子来源于书籍

德川《全体机器学习会slides》，很多都是总结于ppt

致谢：

德川，宇轩师兄

推荐文章阅读：

近期文章预告：

《深入浅出讲解隐马尔科夫模型》

《深入浅出讲解支持向量机》

《深入浅出讲解最大熵模型》

全是通俗易懂的硬货！只需置顶~欢迎关注交流~