深度神经模糊系统算法及其回归应用.docx
版权申诉
56 浏览量
2023-02-23
20:15:11
上传
评论
收藏 1.28MB DOCX 举报
1943 年 Mcclloch 与 Pitts 首次提出人工神经元数理模型(MP 模型)
[1]
, 开启了人工神经
网络的研究. 1958 年, Rosenblatt 提出感知器 Perceptron
[2]
, 可以自学习实现分类, 引发了第一
次神经网络热潮. 1969 年, Minsky 和 Papert 出版的 Perceptrons 一书指出简单线性感知器的
功能有限性, 给予人工神经元网络研究沉重打击, 使得神经网络陷入 10 年低潮期
[3]
. 1982
年 Hopfiled 提出 Hopfiled 模型理论
[4]
, 使人工神经网络的构造和学习有了理论指导, 再次激
起学者们对神经网络的研究热情
[5]
. 1986 年, Rumelhart 等用 BP 算法解决了 Perceptrons 一
书中关于神经网络局限性的问题
[6]
, 此后获得了快速发展. 但是, 1995 年随着 SVM 及统计
学习的兴起
[7]
, 神经网络再次陷入低潮期. 2006 年, Hinton 提出深层网络训练中梯度消失问
题的解决方案, 并在 Science 上发表论文, 正式提出深度学习
[8]
. 此后随着 GPU 不断进步,
计算能力的不断提高, 深度神经网络的应用快速增加. 2015 年, LeCun 等在 Nature 上撰文,
总结了 DNN 的大量成功应用, 尽管存在可解释性差的不足
[9]
. 2017 年, Hinton 等又提出了胶
囊网络(Capsule)
[10]
, 可解释性有所提高, 并在 MNIST 数据集上取得更好的效果. 自此, 深度
神经网络(DNN)研究
[11-13]
及应用进入爆发期, 在语音识别、图像处理
[14]
、自然语言处理
[15]
方
面取得突破性进展, 带动巨大智能产业应用.
目前, 虽然 DNN 得到广泛应用并取得良好的效果, 但存在模型计算量庞大、模型验证
复杂、可解释性差等缺点. 而模糊系统通过一系列 IF-THEN 规则进行构建, 可解释性较强.
1965 年, Zadeh 教授发表了开创性论文“Fuzzy sets”
[16]
, 标志着模糊系统理论的诞生. 1975 年,
Mamdani 基于该理论构建了模糊控制器, 成功应用于锅炉蒸汽机控制
[17]
. 1992 年 Wang 证明
了模糊系统具有通用逼近性
[18]
, 并与 Mendel 提出 WM 方法
[19]
, 可从数据中自动产生出模糊
系统, 但缺乏模型参数自学习能力, 1993 年, Jang 提出自适应神经模糊系统(Adaptive
network-based fuzzy inference system, ANFIS)
[20]
, 使模糊系统具有较强的学习能力, 推动了模
糊系统的发展.
模糊系统在处理低维小数据时具有较高的精度, 并得到较为广泛的应用
[21]
, 但处理高
维大数据时模糊系统往往面临 “维数灾难”问题. 为适应大数据模糊系统, 目前研究主要采
用降维, 减少规则数等方式进行改进, 虽然具有一定可行性, 但模型精度明显下降, 难以真
正解决高维问题.
我们认为深度学习不仅仅包括深度神经网络, 也可以由其他系统构建而成. 目前以模
糊系统为基础构建的深度系统研究还非常少, 基本处于空白阶段
[22]
. 结合模糊系统可解释强
的特点, 我们提出了一种基于 ANFIS 的深度神经模糊系统(DNFS), 该系统采用自底向上的
方式逐层构造, 通过分块、分层结构降低模型的运算量与复杂度, 不仅可以保持可解释性高
的特点, 同时也可提高模糊系统的精度.
1. 深度神经模糊系统构造
ANFIS 在处理高维问题时往往面临“维数灾难”问题
[18]
, 我们采用分层分块结构方式构
建 DNFS, 将变量划分为若干组分别进行计算来降低数据维度. 模型自下而上层层搭建, 以
剩余12页未读，继续阅读
资源评论
罗伯特之技术屋
- 粉丝: 3651
- 资源: 1万+
下载权益
C知道特权
VIP文章
课程特权
VIP享7折，此内容立减5.97元 开通VIP
最新资源
- vscode配置c/c 环境教程
- vscode配置c/c 环境教程
- 基于matlab实现电磁优化计算功能，进行线型规划优化电磁设计.rar
- 基于matlab实现带精英策略的非支配排序遗传算法matlab 源码.rar
- 基于matlab实现差分进化算法，最新的用于替代遗传算法，是以后的主要发展方法.rar
- VSCode配置c/c++环境教程.md
- 基于matlab实现标准合作型协同进化遗传算法matlab源程序
- 七下人教.zip
- 基于matlab实现本份代码能对图像进行gabor滤波处理，结合指纹方向图以及指纹沟壑频率特性，对指纹图像进行增强.rar
- 基于matlab实现RBM神经网络实现了手写数字体识别的GUI程序.rar
资源上传下载、课程学习等过程中有任何疑问或建议，欢迎提出宝贵意见哦~我们会及时处理！
点击此处反馈
