deeplearningUFLDLTutorial资源-CSDN文库

深度学习

5星 · 超过95%的资源需积分: 10 61 浏览量 2013-05-02 14:15:52 上传评论 1 收藏 2.13MB PDF 举报

资源推荐

资源详情

资源评论

笔记本：

深度学习

创建时间：

1 17:

更新时间：

14 21:1

：

rnin

wiki

FLDL T

00UFLDL Tutorial

UFLDL Tutorial

From Ufldl

Jump to: navigation, search

Description: This tutorial will teach you the main ideas of Unsupervised Feature Learning and Deep Learning. By working through it, you will also get to

implement several feature learning/deep learning algorithms, get to see them work for yourself, and learn how to apply/adapt these ideas to new

problems.

This tutorial assumes a basic knowledge of machine learning (specifically, familiarity with the ideas of supervised learning, logis

tic regression, gradient descent). If you are not familiar with these ideas, we suggest you go to this Machine Learning course and complete sections II, III,

IV (up to Logistic Regression) first.

Sparse Autoencoder

01Neural Networks

神经网络

02Backpropagation Algorithm

反向传导算法

03Gradient checking and advanced optimization

梯度检验与高级优化

04Autoencoders and Sparsity

自编码算法与稀疏性

05Visualizing a Trained Autoencoder

可视化自编码训练结果

06Sparse Autoencoder Notation Summary

稀疏自编码器符号一览表

Exercise:Sparse Autoencoder

Vectorized implementation

07Vectorization

矢量化编程

08Logistic Regression Vectorization Example

逻辑回归的向量化实现样例

09Neural Network Vectorization

神经网络向量化

Exercise:Vectorization

Preprocessing: PCA and Whitening

10PCA

主成分分析

11Whitening

白化

12Implementing PCA/Whitening

实现主成分分析与白化

Exercise:PCA in 2D

Exercise:PCA and Whitening

Softmax Regression

13Softmax Regression Softmax

回归

Exercise:Softmax Regression

Self-Taught Learning and Unsupervised Feature Learning

14Self-Taught Learning

自我学习

Exercise:Self-Taught Learning

Building Deep Networks for Classification

15From S elf-Taught Learning to Deep Networks

从自我学习到深层网络学习

16Deep Networks: Overview

深度网络概览

17Stacked Autoencoders

栈式自编码算法

18Fine-tuning Stacked AEs

微调多层编码算法

Exercise: Implement deep networks for digit classification

Linear Decoders with Autoencoders

19Linear Decoders

线性解码器

Exercise:Learning color features with Sparse Autoencoders

Working with Large Images

20Feature extraction using convolution

卷积特征提取

21Pooling

池化

Exercise:Convolution and Pooling

Note: The sections above this line are stable. The sections below are still under construction, and may change without notice. Feel free to browse around

however, and feedback/suggestions are welcome.

Miscellaneous

示截距。

最后要说明的是，有一个等式我们以后会经常用到：如果选择

，也就是

sigmoid

函数，那么它的导数就是

（如果选择

tanh

函数，那它的导数就是

，你可以根据

sigmoid

（或

tanh

）函数的定义自行推导

这个等式。

神经网络模型

所谓神经网络就是将许多个单一

“

神经元

”

联结在一起，这样，一个

“

神经元

”

的输出就可以是另一个

“

神经元

”

的输入。例如，下图就是一个简单的神经网络：

我们使用圆圈来表示神经网络的输入，标上

“ ”

的圆圈被称为偏置节点，也就是截距项。神经网络最左边的一层叫做输入层，最右的一层叫做输出

层（本例中，输出层只有一个节点）。中间所有节点组成的一层叫做隐藏层，因为我们不能在训练样本集中观测到它们的值。同时可以看到，以上神经网

络的例子中有

个输入单元（偏置单元不计在内），

个隐藏单元及一个输出单元。

我们用

来表示网络的层数，本例中

，我们将第

层记为

，于是

是输入层，输出层是

。本例神经网络有参数

，其中

（下面的式子中用到）是第

层第

单元与第

层第

单元之间的联接参数（其实就是连

接线上的权重，注意标号顺序），

是第

层第

单元的偏置项。因此在本例中，

，

。注意，没有其他单

元连向偏置单元

(

即偏置单元没有输入

)

，因为它们总是输出

。同时，我们用

表示第

层的节点数（偏置单元不计在内）。

我们用

表示第

层第

单元的激活值（输出值）。当

时，

，也就是第

个输入值（输入值的第

个特征）。对于给定参数集合

，我们的神经网络就可以按照函数

来计算输出结果。本例神经网络的计算步骤如下：

我们用

表示第

层第

单元输入加权和（包括偏置单元），比如，

，则

。

这样我们就可以得到一种更简洁的表示法。这里我们将激活函数

扩展为用向量（分量的形式）来表示，即

，那么，上面的等式可以更简洁地表示为：

我们将上面的计算步骤叫作前向传播。回想一下，之前我们用

表示输入层的激活值，那么给定第

层的激活值

后，第

层的激活

值

就可以按照下面步骤计算得到：

剩余73页未读，继续阅读

评论收藏

内容反馈

zlj2133

2015-01-10

深度学习很好的网络教程之一
suntao498253097

2015-05-24

中文版的非常好

雷伊_2013

粉丝: 21
资源: 9

deeplearning UFLDL Tutorial

最新资源

deeplearning UFLDL Tutorial

deep learning UFLDL tutorial

UFLDL教程.pdf

ufldl_tutorial：斯坦福无监督特征学习和深度学习教程

UFLDL Tutorial 练习题数据

UFLDL资料整理

UFLDL Tutorial Exercise Answer 练习题答案—softmax篇

UFLDL-Tutorial:斯坦福深度学习教程的解决方案

matlab美白代码-UFLDL-Tutorial-Exercise:此回购包含AndrewNg教授的无监督功能学习和深度学习（UFLDL）在

matlab美白代码-deeplearning-exercise:基于斯坦福UFLDL深度学习教程的基础深度学习算法的游乐场和练习

UFLDL Tutorial Exercise Answer 练习题答案—AutoEncoder

matlab代码整体运行-UFLDL-Tutorial-Exercises-C:使用libLBFGS，Eigen3和OpenCV库以C++编写

UFLDL Tutorial Exercise Answer 练习答案—PCA and ZCA

Deep Learning Tutorial

Deep Learning Tutorial-李宏毅

simple deep learning tutorial

吴恩达Coursera深度学习课程 deeplearning.ai (2-3) TensorFlow Tutorial--作业（可执行源码）

PedroCV-UFLDL-Tutorial-Solutions-archive-refs-heads-master.zip

Deep Learning Tutorial Release 0.1

深度学习算法教程(Deeplearning Algorithms Tutorial) 完整版PDF

deep learning tutorial

Deep Learning Tutorial 李宏毅 一天搞懂深度学习技术原理

Deep Learning Tutorial Release 0.1 (Python)

深度学习（Deep Learning - UFLDL教程中文版）

Deep Learning Tutorial.pdf

Deep_Learning_Tutorial_0.1.pdf.pdf

Deep learning tutorial(BaiDu)

一天搞懂深度学习Deep Learning Tutorial

Deep Learning Tutorial 李宏毅 Hung-yi Lee

最新资源

Deep Learning Tutorial 李宏毅一天搞懂深度学习技术原理