没有合适的资源?快使用搜索试试~ 我知道了~
BWN手册-中文1
需积分: 0 0 下载量 117 浏览量
2022-08-08
19:15:38
上传
评论
收藏 553KB DOCX 举报
温馨提示
试读
15页
算法背景运行平台与数据集本程序运行在Matlab2018a平台。Matlab 2018a 包含完整的并行计算库和音频处理相关库,相比之前的版本能更好的完成语音识
资源详情
资源评论
资源推荐
BWN 技术手册-中文
1. 软硬件背景
1.1 深度学习在语音识别中的应用
随着以深度学习和人工神经网络为代表的人工智能技术不断的完善和发展,语音技
术开始逐步使用 LSTM(长短期神经网络)、RNN(循环神经网络)和 CNN(卷积神经
网络)来完成语音识别、声纹识别与实时翻译等技术。新模式算法极大的提高了语音识
别的性能,并得以在工业界大规模应用,比较典型的应用有科大讯飞实时翻译、百度语
音等。
1.2 FPGA 可定制逻辑在深度学习加速中的应用
深度学习虽然在算法性能上取得了较大的突破,但也对算力提出了更高的要求。传
统 CPU 面对并行性高、计算密集访存密集的深度学习计算效率较低;GPU 处理器效率
较 CPU 高,但功耗与价格居高不下;ASIC 可以在功耗与就散性能上取得较好的平衡,
但设计流程长、灵活性差、设计成本高。
对比之下,FPGA 是一种可编程、可用户定制化的现代大规模集成电路产品。设计
者在通过诸如 Verilog HDL 的硬件描述语言完成电路设计后,通过相应的软件平台进行
仿真、综合与布局后生成比特流描述文件。将比特流描述文件烧写至 FPGA 中的 Flash
模块即可完成门电路级别的编程逻辑控制。
对于计算机体系结构与系统结构的研究者和设计者来说,FPGA 虽然实际的工作频
率远低于实际 CPU 的工作频率,但 FPGA 成本低廉使用灵活的特性可以让用户针对性
的设计最有效率的加速器。
2. 算法背景
2.1 运行平台与数据集
本程序运行在 Matlab 2018a 平台。Matlab 2018a 包含完整的并行计算库和音频处
理相关库,相比之前的版本能更好的完成语音识别的任务。本程序的数据集采用谷歌
TensorFlow 中的开源音频库,该数据集顺序存储了若干单词的语音片段,每个单词都分
别对应若干音频文件并标记其 label。本语音模型针对{‘yes’, ‘up’, ‘down’, ‘right’, ‘left’,
‘unknown’}六个单词标签进行识别。
数据集的存储模式如图 1 所示:
图 1
2.2 神经网络算法与程序流程
本语音识别模型的核心为一个针对语音帧特征图的卷积神经网络。程序首先从数据
集中随机筛选{‘yes’, ‘up’, ‘down’, ‘right’, ‘left’, ‘unknown’}六种单词标签的音频样本,再调
用 Matlab 2018a 语音库中的 MFCC 算法对语音文件进行预处理,将序列化的音频转为
20*49*1 的语音特征图矩阵。该矩阵将被送入一个由两个卷积层和三个全连接层组成的
卷积神经网络中,最终通过 softmax 函数输出预测结果。图 2 中详细描述了该卷积神经
网络的结构。
图 2
神经网络的两个卷积层步长为 1,卷积核为 3*3,通道数均为 32,且不存在 padding
补偿。神经网络采用的激活函数为 ReLU,且在每一层中均有批正则化操作用于改善数
据分布。该模型具有网络规模小、参数规模大的特点(表 1 列出了该卷积神经网络各层
的参数规模)。但该模型中的权值与激活值均为浮点小数,在 FPGA 上加速时会造成计
算资源紧张、浮点计算延迟高的问题;另外在浮点数据格式下,模型参数的存储需求超
出了 FPGA 片内存储,而将参数存于片外存储器上又会增加访存开销、降低加速性能。
因此从上述两方面考虑,该模型还需要进行量化处理。
表 1
2.3 网络量化
为了解决上述问题,本设计使用两种量化方法优化算法原型:(1)权值的二值化;
(2)激活值的定点化。
本设计将网络中的以浮点数格式表示的原始权值通过一系列处理(具体流程见图 3)
转化为表示值为+1, -1 的二值数据。二值化的数据在硬件上可以通过一个二进制位的 01
状态来储存,即一个 64 位浮点权值在二值量化后只需一个比特位就可存储,大大减少
了模型参数的存储需求。二值化后输出的权值形如图 4.
图 3
层数 参数量 参数大小(float64)(Byte)
卷积层1 288 2304
卷积层2 9216 73728
全连接层1 737280 5898240
全连接层2 1024 8192
全连接层3 192 1536
剩余14页未读,继续阅读
H等等H
- 粉丝: 33
- 资源: 337
上传资源 快速赚钱
- 我的内容管理 展开
- 我的资源 快来上传第一个资源
- 我的收益 登录查看自己的收益
- 我的积分 登录查看自己的积分
- 我的C币 登录后查看C币余额
- 我的收藏
- 我的下载
- 下载帮助
安全验证
文档复制为VIP权益,开通VIP直接复制
信息提交成功
评论0