没有合适的资源?快使用搜索试试~ 我知道了~
林轩田《机器学习基石》课程笔记9 -- Linear Regression1
需积分: 0 0 下载量 5 浏览量
2022-08-03
20:02:17
上传
评论
收藏 1.47MB PDF 举报
温馨提示
试读
12页
介绍下该IH这种转换的物理意义:原来有一个有N个自由度的向量y,投影到一个有d+1维的空间x(代表一列的自由度,即单一输入样本的参数,如图中粉色区域),而余数
资源详情
资源评论
资源推荐
作者:红色石头 公众号:AI有道(id:redstonewill)
上节课,我们主要介绍了在有noise的情况下,VCBound理论仍然是成立的。同时,
介绍了不同的errormeasure方法。本节课介绍机器学习最常见的一种算法:Linear
Regression.
在之前的LinearClassification课程中,讲了信用卡发放的例子,利用机器学习来决定
是否给用户发放信用卡。本节课仍然引入信用卡的例子,来解决给用户发放信用卡额
度的问题,这就是一个线性回归(LinearRegression)问题。
令用户特征集为d维的 ,加上常数项,维度为 ,与权重 的线性组合即为
Hypothesis,记为 。线性回归的预测函数取值在整个实数空间,这跟线性分类不
林轩田《机器学习基石》课程笔记9Linear
Regression
一、线性回归问题
同。
根据上图,在一维或者多维空间里,线性回归的目标是找到一条直线(对应一维)、
一个平面(对应二维)或者更高维的超平面,使样本集中的点更接近它,也就是残留
误差Residuals最小化。
一般最常用的错误测量方式是基于最小二乘法,其目标是计算误差的最小平方和对应
的权重w,即上节课介绍的squarederror:
这里提一点,最小二乘法可以解决线性问题和非线性问题。线性最小二乘法的解是
closedform,即 ,而非线性最小二乘法没有closedform,通常
剩余11页未读,继续阅读
嘻嘻哒的小兔子
- 粉丝: 25
- 资源: 321
上传资源 快速赚钱
- 我的内容管理 展开
- 我的资源 快来上传第一个资源
- 我的收益 登录查看自己的收益
- 我的积分 登录查看自己的积分
- 我的C币 登录后查看C币余额
- 我的收藏
- 我的下载
- 下载帮助
安全验证
文档复制为VIP权益,开通VIP直接复制
信息提交成功
评论0