4.1 $$\operatorname{Ent}(D)=-\sum{k=1}^{|\mathcal{Y}|}pk\log{2}{pk}$$ [解析]:证明$0\leq\operatorname{Ent}(D)\leq\log{2}|\mathcal{Y}|$: 已知集合$D$的信息熵的定义为 $$\operatorname{Ent}(D)=-\sum{k=1}^{|\mathcal{Y}|} p{k} \log {2} p{k}$$ 其中,$|\mathcal{Y}|$表示样本类别总数,$pk$表示第$k$类样本所占的比例,且$0 \leq pk \leq 1,\sum{k=1}^{n}pk=1$。