第十七次课讲义1

【人工智能】 人工智能（Artificial Intelligence, AI）是研究、开发用于模拟、延伸和扩展人类智能的理论、方法、技术及应用系统的一门新的技术科学。它涵盖了机器学习、深度学习、自然语言处理、计算机视觉、机器人等多个领域。 1. **概率密度函数与累积分布函数** 在描述随机变量时，我们经常用到概率密度函数（Probability Density Function, PDF）和累积分布函数（Cumulative Distribution Function, CDF）。PDF给出了变量在某一点的概率密度，而CDF则是变量小于或等于某个值的概率。 - 对于0 <= z <= 1的情况，PDF fZ(z) = z0 e^-(z-x)dx = e^-z(e^z - 1) = 1 - ez。 - 当z >= 1时，PDF fZ(z) = 10 e^-(z-x)dx = e^-z(e^1 - 1) = (e - 1)e^-z。 2. **联合分布与边缘分布** 联合分布（Joint Distribution）描述了两个或多个随机变量同时出现的概率，而边缘分布（Marginal Distribution）是将联合分布对另一个变量积分后得到的单个变量的概率分布。 - 对于变量Z = XY，其边缘分布fXY(z)可以通过对x积分来求得。 - 对于变量Z = Y/X，边缘分布fY/X(z)同样通过积分计算。 3. **变换与反变换** 在处理随机变量的转换时，我们通常需要使用雅可比行列式（Jacobian Determinant）来调整概率密度。例如，如果X和Y是随机变量，而U = u(X, Y)，V = v(X, Y)是它们的变换，那么新的随机变量(U, V)的联合分布fUV(u, v)与原分布fXY(x, y)之间的关系涉及雅可比行列式J的绝对值。 4. **期望值** 期望值（Expected Value）是概率论中的一个重要概念，表示随机变量的平均值。对于离散随机变量，期望值是所有可能值与其概率的乘积之和；对于连续随机变量，是函数在所有可能值上的积分。 - 对于函数g(X, Y)，期望值E[g(X, Y)]可以分别通过离散和连续的概率分布来计算。 5. **正态分布** 正态分布（Normal Distribution），又称为高斯分布，是一种重要的连续概率分布。假设X和Y是独立的正态分布随机变量，均值为0，方差为1，我们可以计算出max(X, Y)的期望值。 - E[max(X, Y)] = ∫_D1_ f(x, y)dxdy + ∫_D2_ yf(x, y)dxdy，其中D1和D2是X和Y的值域。 - 最终得出E[max(X, Y)] = 1/√π。 6. **柯西-施瓦茨不等式** 柯西-施瓦茨不等式（Cauchy-Schwarz Inequality）在概率论中用于比较两个随机变量的乘积的期望值与它们各自平方期望值的乘积的关系，即E[XY]² <= E[X²]E[Y²]。 以上就是关于人工智能课程中涉及的一些概率论和统计学基础知识，这些是构建和理解机器学习模型的基础，特别是在处理随机变量和推断时。