1 决策树
决策树通过树结构存储判断流程和规则,实现复杂规则的有效记录
一般来说,树的非叶节点存储了判断逻辑,并通过树分支表达多个判断结果 通过自上而下的多层逻辑判断,最终在叶节点输出预测的分类结果
决策树示例:
1.1 决策树ID3算法
ID3算法主要利用信息增益进行特征的选择,并通过递归方法构建特征
- 从根节点开始,计算所有特征的信息增益
- 选择信息增益最大的特征作为此节点的判断逻辑,并构建子节点
- 对子节点递归地调用以上方法,直到最大信息增益过低或没有特征停止递归
分类标签归档:CART
决策树通过树结构存储判断流程和规则,实现复杂规则的有效记录
一般来说,树的非叶节点存储了判断逻辑,并通过树分支表达多个判断结果 通过自上而下的多层逻辑判断,最终在叶节点输出预测的分类结果
决策树示例:
ID3算法主要利用信息增益进行特征的选择,并通过递归方法构建特征
机器学习始于计算机科学的人工智能领域,后来也有不少统计学家加入。如果说哪位统计学家对机器学习的贡献最大,里奥·布莱曼(Leo Breiman)或许当之无愧。
(January 27, 1928 – July 5, 2005)
1928年1月27日,Leo Breiman 出生于纽