没有合适的资源?快使用搜索试试~ 我知道了~
机器学习个人笔记完整版v4.21.pdf
需积分: 19 6 下载量 31 浏览量
2019-08-17
14:41:35
上传
评论
收藏 11.24MB PDF 举报
温馨提示
机器学习个人笔记完整版v4.21.pdf
资源推荐
资源详情
资源评论
黄海广
haiguang2000@qq.com
qq:10822884
机器学习爱好者 qq 群:464104106
摘要
本笔记是针对斯坦福大学 2014 年机器学习课程
视频做的个人笔记
斯坦福大学 2014 机器学习教程
个人笔记(V4.21)
最后修改:2016-03-29
斯坦福大学 2014 机器学习教程中文笔记
课程概述
Machine Learning(机器学习)是研究计算机怎样模拟或实现人类的学习行为,以获取新的
知识或技能,重新组织已有的知识结构使之不断改善自身的性能。它是人工智能的核心,是
使计算机具有智能的根本途径,其应用遍及人工智能的各个领域,它主要使用归纳、综合而
不是演译。在过去的十年中,机器学习帮助我们自动驾驶汽车,有效的语音识别,有效的网
络搜索,并极大地提高了人类基因组的认识。机器学习是当今非常普遍,你可能会使用这一
天几十倍而不自知。很多研究者也认为这是最好的人工智能的取得方式。在本课中,您将学
习最有效的机器学习技术,并获得实践,让它们为自己的工作。更重要的是,你会不仅得到
理论基础的学习,而且获得那些需要快速和强大的应用技术解决问题的实用技术。最后,你
会学到一些硅谷利用机器学习和人工智能的最佳实践创新。
本课程提供了一个广泛的介绍机器学习、数据挖掘、统计模式识别的课程。主题包括:
(一)监督学习(参数/非参数算法,支持向量机,核函数,神经网络)。(二)无监督学习
(聚类,降维,推荐系统,深入学习推荐)。(三)在机器学习的最佳实践(偏差/方差理
论;在机器学习和人工智能创新过程)。本课程还将使用大量的案例研究,您还将学习如何
运用学习算法构建智能机器人(感知,控制),文本的理解(Web 搜索,反垃圾邮件),计
算机视觉,医疗信息,音频,数据挖掘,和其他领域。
本课程需要 10 周共 18 节课,相对以前的机器学习视频,这个视频更加清晰,而且每课
都有 ppt 课件,推荐学习。
本人是中国海洋大学 2014 级博士生,目前刚开始接触机器学习,我下载了这次课程的
所有视频和课件给大家分享。中英文字幕来自于 https://www.coursera.org/course/ml,
主要是教育无边界字幕组翻译,本人把中英文字幕进行合并,并翻译了部分字幕,对视频进
行封装,归类,并翻译了课程目录,做好课程索引文件,希望对大家有所帮助。部分视频中
文字幕由中国海洋大学的博士生翻译。视频已经翻译完毕,如果下载了视频,可以直接在文
档中打开视频,内嵌中英文字幕。
目前我正在整理中文笔记,主要是根据视频内容和中文字幕以及 ppt 来制作,部分来源
于网络,如“小小人_V”的笔记,并持续更新。
本人水平有限,如有公式、算法错误,请及时指出,发邮件给我,也可以加我 qq。
黄海广
2014-12-16 夜
文档修改历史
版本号
版本日期
修改总结
修订人
1.0
2014.12.16
创建初稿
黄海广
1.1
2014.12.31
修改
黄海广
2.0
2015.02.17
修改
黄海广
2.1
2015.02.23
修改
黄海广
2.2
2015.03.02
修改
黄海广
2.3
2015.03.14
修改一些错误,增加了第十章的一些内容
黄海广
2.4
2015.05.02
修改第十二章一些错误
黄海广
2.5
2015.05.13
补充第九章部分内容
黄海广
3.0
2016.01.11
增加第五章 OCTAVE 操作内容
黄海广
3.1
2016.01.15
修改部分错误
黄海广
3.2
2016.02.15
补充第二章部分内容
黄海广
3.3
2016.02.19
补充第六章内容
黄海广
4.0
2016.02.24
修改第十一章一些错误
黄海广
4.1
2016.03.20
补充第四章部分内容
黄海广
4.2
2016.03.28
补充第十五章、十六章的部分内容
黄海广
I
目录
第 1 周 .............................................................................................................................................. 1
一、 引言(Introduction) .................................................................................................... 1
1.1 欢迎............................................................................................................................ 1
1.2 机器学习是什么? .................................................................................................... 4
1.3 监督学习 .................................................................................................................... 6
1.4 无监督学习 .............................................................................................................. 10
二、单变量线性回归(Linear Regression with One Variable) ................................................ 15
2.1 模型表示 .................................................................................................................. 15
2.2 代价函数 .................................................................................................................. 18
2.3 代价函数的直观理解 I ............................................................................................ 20
2.4 代价函数的直观理解 II ........................................................................................... 21
2.5 梯度下降 .................................................................................................................. 23
2.6 梯度下降的直观理解 .............................................................................................. 26
2.7 梯度下降的线性回归 .............................................................................................. 29
2.8 接下来的内容 .......................................................................................................... 31
三、线性代数回顾(Linear Algebra Review) ........................................................................... 32
3.1 矩阵和向量 .............................................................................................................. 32
3.2 加法和标量乘法 ...................................................................................................... 34
3.3 矩阵向量乘法 .......................................................................................................... 35
3.4 矩阵乘法 .................................................................................................................. 36
3.5 矩阵乘法的性质 ...................................................................................................... 37
3.6 逆、转置 .................................................................................................................. 38
第 2 周 ............................................................................................................................................ 39
四、多变量线性回归(Linear Regression with Multiple Variables) ........................................ 39
4.1 多维特征 .................................................................................................................. 39
4.2 多变量梯度下降 ...................................................................................................... 41
4.3 梯度下降法实践 1-特征缩放 ................................................................................. 43
4.4 梯度下降法实践 2-学习率 ..................................................................................... 45
4.5 特征和多项式回归 .................................................................................................. 46
4.6 正规方程 .................................................................................................................. 48
4.7 正规方程及不可逆性(可选) .............................................................................. 51
五、Octave 教程(Octave Tutorial) .......................................................................................... 53
5.1 基本操作 .................................................................................................................. 53
5.2 移动数据 .................................................................................................................. 60
5.3 计算数据 .................................................................................................................. 69
5.4 绘图数据 .................................................................................................................. 76
5.5 控制语句:for,while,if 语句 ............................................................................. 82
5.6 向量化 ...................................................................................................................... 88
5.7 工作和提交的编程练习 .......................................................................................... 93
第 3 周 ............................................................................................................................................ 96
六、逻辑回归(Logistic Regression) ........................................................................................ 96
6.1 分类问题 .................................................................................................................. 96
II
6.2 假说表示 .................................................................................................................. 98
6.3 判定边界 ................................................................................................................ 100
6.4 代价函数 ................................................................................................................ 102
6.5 简化的成本函数和梯度下降 ................................................................................ 105
6.6 高级优化 ................................................................................................................ 108
6.7 多类别分类:一对多 ............................................................................................ 112
七、正则化(Regularization) ................................................................................................. 115
7.1 过拟合的问题 ........................................................................................................ 115
7.2 代价函数 ................................................................................................................ 117
7.3 正则化线性回归 .................................................................................................... 119
7.4 正则化的逻辑回归模型 ........................................................................................ 120
第 4 周 .......................................................................................................................................... 122
第八、神经网络:表述(Neural Networks: Representation)............................................... 122
8.1 非线性假设 ............................................................................................................ 122
8.2 神经元和大脑 ........................................................................................................ 124
8.3 模型表示 1 ............................................................................................................. 128
8.4 模型表示 2 ............................................................................................................. 132
8.5 特征和直观理解 1 ................................................................................................. 134
8.6 样本和直观理解 II ................................................................................................. 136
8.7 多类分类 ................................................................................................................ 138
第 5 周 .......................................................................................................................................... 139
九、神经网络的学习(Neural Networks: Learning) ............................................................. 139
9.1 代价函数 ................................................................................................................ 139
9.2 反向传播算法 ........................................................................................................ 141
9.3 反向传播算法的直观理解 .................................................................................... 144
9.4 实现注意:展开参数 ............................................................................................ 147
9.5 梯度检验 ................................................................................................................ 148
9.6 随机初始化 ............................................................................................................ 150
9.7 综合起来 ................................................................................................................ 151
9.8 自主驾驶 ................................................................................................................ 152
第 6 周 .......................................................................................................................................... 155
十、应用机器学习的建议(Advice for Applying Machine Learning) ................................... 155
10.1 决定下一步做什么 .............................................................................................. 155
10.2 评估一个假设 ...................................................................................................... 158
10.3 模型选择和交叉验证集 ...................................................................................... 160
10.4 诊断偏差和方差 .................................................................................................. 162
10.5 归一化和偏差/方差 ............................................................................................ 164
10.6 学习曲线 .............................................................................................................. 166
10.7 决定下一步做什么 .............................................................................................. 168
十一、机器学习系统的设计(Machine Learning System Design) ....................................... 170
11.1 首先要做什么 ...................................................................................................... 170
11.2 误差分析 .............................................................................................................. 171
11.3 类偏斜的误差度量 .............................................................................................. 174
11.4 查全率和查准率之间的权衡 .............................................................................. 175
剩余271页未读,继续阅读
资源评论
chunyangsuhao
- 粉丝: 103
- 资源: 7382
上传资源 快速赚钱
- 我的内容管理 展开
- 我的资源 快来上传第一个资源
- 我的收益 登录查看自己的收益
- 我的积分 登录查看自己的积分
- 我的C币 登录后查看C币余额
- 我的收藏
- 我的下载
- 下载帮助
安全验证
文档复制为VIP权益,开通VIP直接复制
信息提交成功