Deep Learning 是机器学习中一个非常接近 AI 的领域，其动机在于建立、模拟人脑进行分
析学习的神经网络，最近研究了机器学习中一些深度学习的相关知识，本文给出一些很有用
的资料和心得。
Key Words：有监督学习与无监督学习，分类、回归，密度估计、聚类，深度学习，Sparse
DBN，
1. 有监督学习和无监督学习
给定一组数据(input，target)为 Z=(X，Y)。
有监督学习：最常见的是 regression & classification。
regression：Y 是实数 vector。回归问题，就是拟合(X，Y)的一条曲线，使得下式 cost
function L 最小。
classification：Y 是一个 finite number，可以看做类标号。分类问题需要首先给定有 label
的数据训练分类器，故属于有监督学习过程。分类问题中，cost function L(X,Y)是 X 属于
类 Y 的概率的负对数。
，其中 f
i
(X)=P(Y=i | X);
无监督学习：无监督学习的目的是学习一个 function f，使它可以描述给定数据的位置分布
P(Z)。 包括两种：density estimation & clustering.
density estimation 就是密度估计，估计该数据在任意位置的分布密度
