181220031_李惟康3

《机器学习导论》作业规范与学术诚信 在学术研究和学习中，诚信是至关重要的。这体现在《181220031_李惟康3》这份作业中，特别强调了学术诚信的规范。作业允许同学们进行讨论交流，但严禁直接照搬他人的成果，必须确保署名的工作是个人独立完成的。禁止任何形式的剽窃，包括直接复制粘贴或简单修改他人的文本，一旦发现，将严肃处理，取消涉事者的成绩。对于参考的公开资料，应当明确引用，尊重原作者的知识产权。 作业提交时，需要注意格式和时间的要求。作业需使用LaTeX模板，包含个人信息，并按指定格式提交PDF文件、源代码和输出文件。未按规定提交或格式错误将导致分数扣减。作业截止日期为6月5日23:59:59，逾期不接受作业，记为零分。这种严谨的态度有助于培养学生的自律性和责任感。 作业内容涉及机器学习的基础理论，如主成分分析（PCA）和K近邻（KNN）算法。PCA是数据降噪的有效工具，通过保留主要特征并舍弃与噪声相关的次要特征来实现。题目要求证明在N个样本（D>N）的数据集中，PCA的有效投影子空间不超过N-1维，这是因为协方差矩阵的秩受到样本数限制，最多有N-1个非零特征值。计算实例展示了PCA的具体步骤，包括数据的中心化、协方差矩阵的计算以及特征值和特征向量的求解。 KNN是监督学习中的基础分类方法，作业要求比较最近邻分类器和贝叶斯最优分类器的期望错误率。证明过程中利用不等式和Cauchy-Schwarz不等式，展示了错误率的上下界关系，强调了KNN分类的局限性和优化方向。 这份作业不仅检验了学生对机器学习基本概念的理解，也强化了他们对学术诚信的认识，体现了实践与理论并重的教学理念。