机器学习的算法(python).zip

对象、矩阵和矢量化编程 === 1.对象、维度 --- 1. 表、对象 2. 特征名称、特征向量 2.矩阵 --- 1. 解线性方程组 2. 方程降次，通过升维将线性不可分的数据映射到高维中 3. 变换，通过特征值和特征向量完成维度约简 机器学习的数学基础 === 1. 现代数学的基石：概率论、数值分析、线性代数 相似性度量 --- 1. 将对象看作n维坐标系中的点，并通过点与点之间的距离来度量 2. 范数：向量的长度、向量到原点的距离、两点的距离 理解随机性 --- 1. 概率论：确定性与随机性、统计规律 2. 贝叶斯公式 多元统计基础 --- 1. 联合分布概率 特征间的相关性 --- 1. 协方差矩阵和相关系数：衡量样本特征列之间线性相关性 空间的变换 --- 1. 向量张成空间 n维正交空间的性质： 1. 向量的长度和方向都是相对于其他向量的量，长度相对于远点，方向相对于坐标轴 2. 向量的空间变换 1. 向量与矩阵的乘法：一个向量从一个线性空间（坐标系）通过选取一个新的基底，变换到这个新基底构成的另一个线性空间的过程 3. 向量组与矩阵的变换 1. 一组向量变换到另一个空间 2. 为什么左边矩阵的列数等于右边矩阵的行数？ 左边矩阵被定义为向量组，其列数被认为是向量的维度 右边矩阵被定义为一个线性空间，矩阵的相乘就是将这个向量组线性变换到新的线性空间中，也就是说右边矩阵的行数最少 要满足是由基底向量构成的线性空间的维度，或者方程组的秩 4. 线性变换与特征值 数据归一化 --- 1. 将有量纲的表达式转换为无量纲的表达式，称为标量 2. 归一化的形式：把数变为(0,1)之间的小数、把有量纲表达式变为无量纲表达式 3. 数据标准化：按比例缩放，使之落入一个小的特定区间 4. 标准欧式距离：将各个分量都标准化到均值、方差等