【免费】第10章模型独立的学习方式1资源-CSDN文库

需积分: 0 156 浏览量 2022-08-04 13:27:29 上传评论收藏 200KB PDF 举报

资源详情

资源评论

资源推荐

第 10 章模型独立的学习方式

在前面的章节中，介绍了机器学习的几种学习方式，包括监督学习、无监

督学习和强化学习。这些学习方式分别可以由不同的模型实现，比如神经网络、

线性分类器等。针对一个给定的任务，首先要准备一定规模的训练数据，这些训

练数据需要和真实数据的分布一致，然后设定一个目标函数和优化方法，在训

练数据上学习一个模型。通过这种学习方式学习到的模型往往任务定向的，也

是孤立的。我们也不清楚不同任务的模型之间是否有重复利用的共享知识。此

外，我们需要假设每个任务的模型都是从零开始来训练的，一切知识都需要从

训练数据中得到。这也导致了每个任务都需要准备大量的训练数据。

比如“常识”

本章标题中的“模型独立的学习方式”是指这些学习方式不限于具体的模

型，不管是前馈神经网络、循环神经网络还是其他模型。然而一种学习方式往

往会对符合某种特性的模型更加青睐，比如集成学习往往和方差大的模型组合

时效果显著。

10.1 集成学习

给定一个学习任务，假设输入 x 和输出 y 的真实关系为 y = h(x)。对于 M

个不同的模型 f

1

(x), · · · , f

M

(x)，每个模型的期望错误为

R(f

m

) = E

x



f

m

(x) − h(x)



2



(10.1)

= E

x



e

m

(x)

2



, (10.2)

其中，e

m

(x) = f

m

(x) − h(x) 为模型 m 在样本 x 上的错误。

那么所有的模型的平均错误为

¯

R(f) =

1

M

M



m=1

E

x

[e

m

(x)

2

]. (10.3)

本内容试读结束，登录后可阅读更多

下载后可阅读完整内容，剩余6页未读，立即下载

评论0

内容反馈

宏馨

粉丝: 20
资源: 293

最新资源

资源上传下载、课程学习等过程中有任何疑问或建议，欢迎提出宝贵意见哦~我们会及时处理！点击此处反馈

feedback-tip