# 《机器学习实战》练习代码
书中代码是python2+的，练习代码都用python3+实现
## ch2：KNN算法
计算特征数据间的距离公式
}^2+{(x-x2)}^2...{(x-xi)}^2})
## ch3：决策树
决策树最重要的两个公式为信息熵和信息增益的计算
设样本集合D中的第K类样本所占的比例是Pk,则信息熵的计算公式：
=-\sum_{k=1}^{|y|}P_{k}log_{2}P_{k})
假设离散属性（特征）a有V个可能的取值，若使用a来对样本数据基D进行划分，则就有V个分支节点，其中第v个取值包含的数据量为Dv，计算出Dv的信息熵，给每个分支节点赋予Dv/D的权重，即样本分支节点的信息熵越大，它获得的信息增益越大。具体信息增益计算方法为
=Ent(D)-\sum_{v=1}^{V}\frac{|D_{v}|}{|D|}Ent(D^v))
## ch4:朴素贝叶斯
条件概率公式
=\frac{p(x|c)p(c)}{p(x)})
p(x|c)=sum(xi|c)
如果p(c1|x,y)>p(c2|x,y) 那么分类就是c1，反之亦然
## ch5:Logistic回归
阶跃函数Sigmod
=\frac{1}{1+e^{-z}})
其中
## ch6:支持向量机
《机器学习实战》学习代码.zip
需积分: 5 36 浏览量
2024-04-07
11:55:09
上传
评论
收藏 763KB ZIP 举报
《机器学习实战》学习代码.zip （2000个子文件） 
README.md 1KB bayes.py 5KB logregres.py 5KB svmMliA.py 1KB
horseColicTraining.txt 59KB datingTestSet.txt 34KB horseColicTest.txt 4KB testSetRBF2.txt 3KB testSetRBF.txt 3KB testSet.txt 2KB testSet.txt 2KB 6.txt 1KB 2_54.txt 1KB 5_15.txt 1KB 1_15.txt 1KB 9_51.txt 1KB 0_24.txt 1KB 5_41.txt 1KB 5_71.txt 1KB 3_47.txt 1KB 1_76.txt 1KB 9_40.txt 1KB 0_6.txt 1KB 9_30.txt 1KB 5_3.txt 1KB 9_78.txt 1KB 7_92.txt 1KB 6_16.txt 1KB 8_86.txt 1KB 7_36.txt 1KB 8_27.txt 1KB 3_14.txt 1KB 1_62.txt 1KB 9_74.txt 1KB 6_12.txt 1KB 5_23.txt 1KB 4_69.txt 1KB 1_20.txt 1KB 3_3.txt 1KB 5_40.txt 1KB 9_23.txt 1KB 8_53.txt 1KB 3_38.txt 1KB 3_78.txt 1KB 1_54.txt 1KB 2_79.txt 1KB 4_41.txt 1KB 3_72.txt 1KB 4_62.txt 1KB 6_60.txt 1KB 4_52.txt 1KB 0_84.txt 1KB 7_45.txt 1KB 2_43.txt 1KB 8_28.txt 1KB 8_29.txt 1KB 4_22.txt 1KB 2_71.txt 1KB 7_48.txt 1KB 7_9.txt 1KB 9_63.txt 1KB 7_93.txt 1KB 1_25.txt 1KB 7_40.txt 1KB 6_30.txt 1KB 9_11.txt 1KB 2_83.txt 1KB 4_51.txt 1KB 7_15.txt 1KB 5_24.txt 1KB 5_12.txt 1KB 8_8.txt 1KB 7_77.txt 1KB 5_53.txt 1KB 8_22.txt 1KB 3_70.txt 1KB 2_37.txt 1KB 5_60.txt 1KB 8_54.txt 1KB 1_29.txt 1KB 4_97.txt 1KB 4_79.txt 1KB 4_88.txt 1KB 9_66.txt 1KB 2_32.txt 1KB 2_78.txt 1KB 1_73.txt 1KB 5_79.txt 1KB 7_73.txt 1KB 4_70.txt 1KB 2_12.txt 1KB 0_17.txt 1KB 2_23.txt 1KB 8_10.txt 1KB 2_90.txt 1KB 1_48.txt 1KB 2_28.txt 1KB 0_38.txt 1KB 1_33.txt 1KB 1_22.txt 1KB共 2000 条
- 1
- 2
- 3
- 4
- 5
- 6
- 20
资源评论
