树算法族 发表评论 1276 views 1 决策树 1.1 决策树ID3算法 1.2 决策树 C4.5算法 1.3 CART 算法 2 决策树算法总结 1 决策树 决策树通过树结构存储判断流程和规则,实现复杂规则的有效记录 一般来说,树的非叶节点存储了判断逻辑,并通过树分支表达多个判断结果 通过自上而下的多层逻辑判断,最终在叶节点输出预测的分类结果 决策树示例: 1.1 决策树ID3算法 ID3算法主要利用信息增益进行特征的选择,并通过递归方法构建特征 从根节点开始,计算所有特征的信息增益 选择信息增益最大的特征作为此节点的判断逻辑,并构建子节点 对子节点递归地调用以上方法,直到最大信息增益过低或没有特征停止递归 Read more