决策树的Python代码分析（一）

from math import log

def calcShannonEnt(dataSet):
numEntries = len(dataSet)                               //求dataset的元素个数，dataSet的类型是列表
labelCounts = {}                                        //创建空列表
for featVec in dataSet:                                 //对dataSet的每一个元素进行处理
currentLabel = featVec[-1]                      //将dataSet的每一个元素的最后一个元素选择出来，dataSet的元素也是列表
if currentLabel not in labelCounts.keys():      //对字典的keys方法了解
labelCounts[currentLabel] = 0           //若没有该键，则使用字典的自动添加进行添加值为0的项，取0是因为下一行代码
labelCounts[currentLabel] += 1
shannonEnt = 0.0
for key in labelCounts:
prob = float(labelCounts[key]) / numEntries
shannonEnt -= prob * log(prob,2)
return shannonEnt