171840708_张逸凯2

preview
试读
10页
需积分: 0 0 下载量 176 浏览量 更新于2022-08-03 收藏 4.42MB PDF 举报
171840708_张逸凯2
机器学习导论
习题四
171840708, 张逸凯, zykhelloha@gmail.com
2020 年 5 月 14 日
学术诚信
本课程非常重视学术诚信规范，助教老师和助教同学将不遗余力地维护作业中的学术诚信
规范的建立。希望所有选课学生能够对此予以重视。
1
戨戱戩 允许同学之间的相互讨论，但是署你名字的工作必须由你完成，不允许直接照搬
任何已有的材料，必须独立完成作业的书写过程戻
戨戲戩 在完成作业过程中，对他人工作（出版物、互联网资料）中文本的直接照搬（包括
原文的直接复制粘贴及语句的简单修改等）都将视为剽窃，剽窃者成绩将被取消。
对于完成作业中有关键作用的公开资料，应予以明显引用；
戨戳戩 如果发现作业之间高度相似将被判定为互相 抄袭行为，抄袭和被抄袭双方 的成绩
都将被取消。因此请主动防止自己的作业被他人抄袭。
作业提交注意事项
戨戱戩 请在扌扡扔扥托模板中第一页填写个人的姓名、学号、邮箱信息；
戨戲戩 本次作业需提交该扰扤扦文件、 问题戴可直接运行的源码戨扭扡扩扮戮扰批戩、 问题戴的输出文
件戨学号 批扰扲扥扤戮扣扳扶戩， 将以上三个文件压缩成扺扩扰文件后上传。 扺扩扰文件格式为学
号.zip， 例如戱户戰戰戰戰戰戰戱戮扺扩扰； 扰扤扦文件格式为学号 姓名.pdf ， 例如戱户戰戰戰戰戰戰戱 张
三戮扰扤扦。
戨戳戩 未按照要求提交作业，或提交作业格式不正确，将会被扣除部分作业分数；
戨戴戩 本次作业提交截止时间为5月14日23:59:59。除非有特殊情况（如因病缓交），否
则截止时间后不接收作业，本次作业记零分。
1
参考尹一通老师高级算法课程中对学术诚信的说明。
戱
戲戰戲戰年春季 机器学习导论 作业一
[30 pts] Problem 1 [Kernel Functions]
戨戱戩 [10 pts] 对于x, y ∈ R
N
，考虑函数κ戨x, y戩 戽 扴扡扮扨戨ax
>
y 戫 b戩，其中a, b是任意实数。试说
明a ≥ 戰, b ≥ 戰是κ为核函数的必要条件。
戨戲戩 [10 pts] 考虑R
N
上的函数κ戨x, y戩 戽 戨x
>
y 戫 c戩
d
，其中c是任意实数，d, N是任意正整数。
试分析函数κ何时是核函数，何时不是核函数，并说明理由。
戨戳戩 [10 pts] 当上一小问中的 函数是核函数时，考虑d 戽 戲的情况，此时κ将N维数据映射到了
什么空间中？具体的 映射函数是什么？更一般的，对d不加限制时，κ将N 维数据映射到了
什么空间中？戨本小问的最后一问可以只写结果戩
Solution. 解: 戨戱戩
不妨令κ戨x, y戩 戽 扴扡扮扨戨ax
>
y 戫 b戩 戽 κ戨x · y戩
由扭扥扲扣扥扲定理戬 需要满足
Z
c
κ戨x, y戩g戨x戩g戨y戩dxdy ≥ 戰 ⇒ κ
kxk
2
≥ 戰
扴扡扮扨戨x, x戩 戽
e
axx
T
+b
2
− 戱
戨e
axx
T
+b
戩
2
戫 戱
代入上式 ⇒ axx
T
戫 b ≥ 戰
上式对任意样本成立戬 所以a ≥ 戰, b ≥ 戰戮
戨戲戩
• c ≥ 戰时戺 数学归纳法戺 扤 戽 戱时戬 κ戨x, y戩 戽 xy
T
戫 c戬 线性核加上正常数戬 能保证定理中矩阵
的正定性戬 此时满足扭扥扲扣扥扲定理戬 成立戮
因为可以有如下分解戬 不妨设
x
j
1
x
j
2
. . . x
j
d
|
j
1
,j
2
,...,j
d
∈{1,2,...,n}
T
为高阶多项式的表示戨核
函数处理后的戩戬 例如戨x
2
1
, x
2
2
, x
1
x
2
, x
2
x
1
戩
T
戮
x
j
1
, x
j
2
, . . . , x
j
d
|
j
1
,j
2
,...,j
d
∈{1,2,...,n}
T
·
y
j
1
, y
j
2
, . . . , y
j
d
|
j
1
,j
2
,...,j
d
∈{1,2,...,n}
T
戽
P
n
j
1
=1
···
P
n
j
i
=1
x
j
1
. . . x
j
d
· y
j
1
. . . y
j
d
戽
P
n
j
1
=1
x
j
1
y
j
1
···
P
n
j
d
=1
x
j
d
y
j
d
戽
P
n
j=1
x
i
y
i
d
戽 戨x · y戩
d
考虑κ戨x, y戩 戽
P
i
λ
i
φ
i
戨x戩φ
i
戨y戩戬 即φ戨x戩
>
φ戨y戩 戽
x
>
y 戫 c
d
戬 从如上分解可得戬 对扤 戾 戱的
情况归纳处理戬 将基础步的核函数拆分成两个函数的积形式戬 所以仍然满足扭扥扲扣扥扲定理戬 得
证戮
• c < 戰时戬 扤 戽 戱即不能保证正定性戮 或从第一题中看出不能保证xy
T
戫 c > 戰戬 所以不是核函
数戮
戨戳戩
(i) 扤 戽 戲时映射到了二阶无序多项式空间戮
(ii)
戲

剩余9页未读，继续阅读

资源推荐
资源评论
爱吃番茄great
  • 粉丝: 27
  • 资源: 296
上传资源 快速赚钱
voice
center-task 前往需求广场，查看用户热搜

最新资源