决策树的父节点和子节点的熵的大小关系是什么?( )
决策树的父节点更大
子节点的熵更大
两者相等
根据具体情况而定
在特征选择时,应该给父节点信息增益最大的节点,而信息增益的计算为 IG(Y|X) = H(Y) - H(Y/X),H(Y/X) 为该特征节点的条件熵, H(Y/X) 越小,即该特征节点的属性对整体的信息表示越“单纯”,IG更大。 则该属性可以更好的分类。H(Y/X) 越大,属性越“紊乱”,IG越小,不适合作为分类属性。
决策树的父节点和子节点的熵的大小关系是什么?( )
决策树的父节点更大
子节点的熵更大
两者相等
根据具体情况而定