一文看懂25个神经网络模型.pdf
5星 · 超过95%的资源 107 浏览量
2023-05-13
00:01:52
上传
评论
收藏 1.5MB PDF 举报 
1. 引言引言
在深度学习十分火热的今天，不时会涌现出各种新型的人工神经网络，想要实时了解这些新型神经网络的架构还真是不
容易。光是知道各式各样的神经网络模型缩写（如：DCIGN、BiLSTM、DCGAN……还有哪些？)，就已经让人招架不
住了。
因此，这里整理出一份清单来梳理所有这些架构。其中大部分是人工神经网络，也有一些完全不同的怪物。尽管所有这
些架构都各不相同、功能独特，当我在画它们的节点图时……其中潜在的关系开始逐渐清晰起来。
把这些架构做成节点图，会存在一个问题：它无法展示神经网络架构内部的工作原理。举例来说，变分自编码机
（VAE：variational autoencoders ）看起来跟自编码机（AE：autoencoders）差不多，但它们的训练过程却大不相同。
训练后的模型在使用场景上差别更大：VAE是生成器，通过插入噪音数据来获取新样本；而AE仅仅是把他们所收到的任
何信息作为输入，映射到“记忆中”最相似的训练样本上。
在介绍不同模型的神经元和神经细胞层之间的连接方式前，我们一步一步来，先来了解不同的神经元节点内部是如何工
作的。
1.1 神经元神经元
对不同类型的神经元标记不同的颜色，可以更好地在各种网络架构之间进行区分。但是，这些神经元的工作方式却是大
同小异。在下图的基本神经元结构后面，你会看到详细的讲解：
基本的人工神经网络神经元（basic neural network cell）相当简单，这种简单的类型可以在常规的前馈人工神经网络架
构里面找到。这种神经元与其它神经元之间的连接具有权重，也就是说，它可以和前一层神经网络层中的所有神经元有
连接。
每一个连接都有各自的权重，通常情况下是一些随机值（关于如何对人工神经网络的权重进行初始化是一个非常重要的
话题，这将会直接影响到之后的训练过程，以及最终整个模型的性能）。这个权重可以是负值，正值，非常小，或者非
常大，也可以是零。和这个神经元连接的所有神经元的值都会乘以各自对应的权重。然后，把这些值都求和。
在这个基础上，会额外加上一个bias，它可以用来避免输出为零的情况，并且能够加速某些操作，这让解决某个问题所
需要的神经元数量也有所减少。这个bias也是一个数字，有些时候是一个常量（经常是-1或者1），有些时候会有所变
化。这个总和最终被输入到一个激活函数，这个激活函数的输出最终就成为这个神经元的输出。
1.2卷积神经元（卷积神经元（Convolutional cells））
剩余22页未读，继续阅读
资源评论
芊暖2023-07-27这份文件适合作为入门级材料，阐述的内容既简明又不失深度。
食色也2023-07-27读完这份文件后我对神经网络模型有了更深刻的认识，非常值得一读。
五月Eliy2023-07-27这份文件简洁明了地介绍了25个常用的神经网络模型，对初学者来说非常友好。
东郊椰林放猪散仙2023-07-27作者对这25个神经网络模型进行了系统整理和总结，内容丰富，容易理解。
方2郭2023-07-27这份文件概括了25个神经网络模型的核心思想，对于快速了解它们非常有帮助。
