关于ID3算法的最优性证明

翟俊海; 张素芳; 王熙照

doi:10.3969/j.issn.1000-1565.2006.05.022

河北大学学报(自然科学版) >

2006 , Vol. 26 >Issue 5: 547 - 550,556

DOI: https://doi.org/10.3969/j.issn.1000-1565.2006.05.022

关于ID3算法的最优性证明

翟俊海 ,
张素芳 ,
王熙照

展开

1.河北大学,数学与计算机学院,河北,保定,071002； 2.河北大学,数学与计算机学院,河北,保定,071002;河北省信息工程学校数学教研究,河北,保定,071000

网络出版日期: 2006-09-25

基金资助

国家自然科学基金

收起

Verification on Optimal ID3 Algorithm

ZHAI Jun-hai ,
ZHANG su-fang ,
WANG Xi-zhao

Expand

Online published: 2006-09-25

Fold

摘要

研究了一个属性的某几个属性值并的权熵之和与该属性单个属性值的权熵之和的关系.通过构建模型,从理论上证明了以信息熵作为度量标准,ID3算法是最优的,生成的树是最小的,产生的规则数是最少的.

关键词： 决策树; ID3算法; 信息熵; 划分

本文引用格式

翟俊海 , 张素芳 , 王熙照 . 关于ID3算法的最优性证明[J]. 河北大学学报(自然科学版), 2006 , 26(5) : 547 -550,556 . DOI: 10.3969/j.issn.1000-1565.2006.05.022

参考文献

[1] 谢竞博, 王熙照. 基于属性间交互信息的ID3算法 [J]. 计算机工程与应用 2004.doi:10.3321/j.issn:1002-8331.2004.30.030
[2] TOM M MITCHELL. Machine Learning [M]. 北京:机械工业出版社 2003.
[3] MCSHERRY D. Strategic induction of decision trees [J]. Knowledge-Based Systems 1999, 12.
[4] 毕建东, 杨桂芳. 基于熵的决策树分枝合并算法 [J]. 哈尔滨工业大学学报 1997, 29(02).
[5] Shihchieh Chou, Chang-Ling Hsu. MMDT: a multi-valued and multi-labeled decision tree classifier for data mining [J]. Expert Systems with Application 2005, 4(4).

Options

文章导航

模态框（Modal）标题

摘要

本文引用格式

参考文献