稀疏卷积神经网络加速器设计.docx资源-CSDN文库

版权申诉

115 浏览量 2022-12-01 09:10:44 上传评论收藏 770KB DOCX 举报

资源推荐

资源详情

资源评论

1. 引言

卷积神经网络(Convolutional Neural Network, CNN)的发展表明，通过增加网络深度可

以有效提高识别精度

[1]

，但更多的权重参数导致 CNN 推断时延长、功耗高、存储需求大，

不利于边缘计算.如何降低网络复杂度并设计出符合 CNN 运算模式的高效系统成为突破人

工智能部署瓶颈的关键.

算法层面，文献[2]通过剪枝、量化和哈夫曼编码等技术，稀疏化网络并降低位宽，将

模型大小缩减 35-49 倍.但硬件层面，如何充分发挥稀疏 CNN 的优势成为一大难

点.Eyeriss

[3]

通过探索数据复用和功耗的关系，提出行不变数据流，实现低功耗加速.但

Eyeriss 未能充分利用 CNN 稀疏性，乘数为 0 的运算无法被省略，运算时延没有降

低.Cambricon-X

[4]

通过探索 CNN 的稀疏性，在传统硬件加速器基础上增添寻址模块，避免

无效运算，提升了运算速度和运算效能，但其寻址模块较复杂，

引入了 31%的额外功耗.本文使用动态网络剪枝技术得到稀疏 CNN；设计精简的寻址

模块并探索适合稀疏运算的数据流；提出高能效比加速器架构，使用 TSMC28nm 工艺综合

并与同类研究相比较.

2. 稀疏卷积神经网络及其优化设计

2.1 基本概念

CNN 通常由卷积层、池化层、激活函数层和全连接层构成.其中卷积层是提取区域特

征的主要手段，其经典结构如图 1 所示.Cin 个输入通道与 Cout 个深度为 Cin 的三维卷积

核完成卷积累加运算，得到 Cout 个输出通道，添加偏置后进入激活层和池化层.

表 1 卷积层参数及其含义

卷积层参数

含义

Cin

输入通道个数

Cout

输出通道个数

Nin

输入特征图尺寸

Nout

输出特征图尺寸

K

卷积核尺寸

下载: 导出 CSV

| 显示表格

本内容试读结束，登录后可阅读更多

下载后可阅读完整内容，剩余9页未读，立即下载

内容反馈

版权申诉

罗伯特之技术屋

粉丝: 3681
资源: 1万+

最新资源

资源上传下载、课程学习等过程中有任何疑问或建议，欢迎提出宝贵意见哦~我们会及时处理！点击此处反馈

feedback-tip