决策树 决策树(Decision Tree)是一种基于树结构进行决策的机器学习方法,这恰是人类面临决策时一种很自然的处理机制。 决策树生成过程: 寻找最适合分割的特征 根据纯度判断方法,寻找最优的分割点,基于这一特征把数据分割 成纯度更高的两部分数据 判断是否达到要求,若未达到,重复步骤一继续分割,直到达到要 求停止为止 剪枝,防止过拟合 随机森林 用随机的方式建立起一棵棵决策树,然后由这些决策树组成一个森 林,其中每棵决策树之间没有关联,当有一个新的样本输入时,就 让每棵树独立的做出判断,按照多数原则决定该样本的分类结果。