没有合适的资源?快使用搜索试试~ 我知道了~
华为HiAI_DDK_V320_轻量化工具使用说明书1
需积分: 0 0 下载量 118 浏览量
2022-08-03
11:25:16
上传
评论
收藏 1.58MB PDF 举报
温馨提示
试读
63页
前言ii1 介 绍 11.1 概述 11.2 支持范围 21.3 系统要求 21.4 用户指引 32 无训练量化 52.1 输入准备 52.1.1 准备模型 5
资源详情
资源评论
资源推荐
HiAI DDK V320
轻量化工具使用说明书
文档版本
04
发布日期
2020-06-17
华为技术有限公司
文档版本 04 (2020-06-17)
版权所有 © 华为技术有限公司
i
版权所有 © 华为技术有限公司 2020。 保留一切权利。
非经本公司书面许可,任何单位和个人不得擅自摘抄、复制本文档内容的部分或全部,并不得以任何形式传
播。
商标声明
和其他华为商标均为华为技术有限公司的商标。
本文档提及的其他所有商标或注册商标,由各自的所有人拥有。
注意
您购买的产品、服务或特性等应受华为公司商业合同和条款的约束,本文档中描述的全部或部分产品、服务
或特性可能不在您的购买或使用范围之内。除非合同另有约定,华为公司对本文档内容不做任何明示或默示
的声明或保证。
由于产品版本升级或其他原因,本文档内容会不定期进行更新。除非另有约定,本文档仅作为使用指导,本
文档中的所有陈述、信息和建议不构成任何明示或暗示的担保。
华为技术有限公司
地址:
深圳市龙岗区坂田华为总部办公楼 邮编:518129
网址:
https://www.huawei.com
客户服务邮箱:
support@huawei.com
客户服务电话:
4008302118
HiAI DDK V320
轻量化工具使用说明书
前言
文档版本 04 (2020-06-17)
版权所有 © 华为技术有限公司
ii
前言
概述
本文提供对轻量化工具的使用说明。
修改记录
日期
修订版本
修改描述
2020-06-17
04
修改说明书 demo 介绍,添加 QA 章节
2020-03-16
03
新增网络结构搜索内容
2019-12-31
02
新增 V320 版本内容
2019-09-04
01
新增 V310 版本内容
HiAI DDK V320
轻量化工具使用说明书
目 录
文档版本 04 (2020-06-17)
版权所有 © 华为技术有限公司
iii
目 录
前言 ..................................................................................................................................................... ii
1 介 绍 ............................................................................................................................................ 1
1.1 概述 ............................................................................................................................................................................. 1
1.2 支持范围 ..................................................................................................................................................................... 2
1.3 系统要求 ..................................................................................................................................................................... 2
1.4 用户指引 ..................................................................................................................................................................... 3
1.4.1 Caffe 用户 ................................................................................................................................................................. 3
1.4.2 TensorFlow 用户 ....................................................................................................................................................... 3
2 无训练量化 ...................................................................................................................................... 5
2.1 输入准备 ..................................................................................................................................................................... 5
2.1.1 准备模型 .................................................................................................................................................................. 5
2.1.2 准备校准集 .............................................................................................................................................................. 5
2.1.3 填写 config.prototxt 文件 ......................................................................................................................................... 6
2.2 Caffe 模型无训练量化 ................................................................................................................................................. 9
2.2.1 环境准备 .................................................................................................................................................................. 9
2.2.2 模型量化 .................................................................................................................................................................. 9
2.3 TensorFlow 模型无训练量化 .................................................................................................................................... 11
2.3.1 环境准备 ................................................................................................................................................................ 11
2.3.2 模型量化 ................................................................................................................................................................ 11
3 重训练量化 .................................................................................................................................... 13
3.1 依赖环境准备 ........................................................................................................................................................... 13
3.1.1 准备 Docker 环境 ................................................................................................................................................... 13
3.1.2 准备 Linux 环境 ..................................................................................................................................................... 14
3.2 Caffe 模型优化训练 .................................................................................................................................................. 14
3.2.1 安装编译环境 ........................................................................................................................................................ 15
3.2.1.1 Caffe-1.0 自动化构建 ......................................................................................................................................... 15
3.2.1.2 非官方 Caffe 版本手动构建 ............................................................................................................................... 16
3.2.2 配置资源文件 ........................................................................................................................................................ 18
3.2.3 优化策略配置 ........................................................................................................................................................ 18
3.2.4 训练模型 ................................................................................................................................................................ 19
HiAI DDK V320
轻量化工具使用说明书
目 录
文档版本 04 (2020-06-17)
版权所有 © 华为技术有限公司
iv
3.2.5 转换模型 ................................................................................................................................................................ 20
3.3 TensorFlow 模型优化训练 ....................................................................................................................................... 20
3.3.1 准备 TensorFlow 环境 ........................................................................................................................................... 21
3.3.1.1 准备 Docker 环境 ................................................................................................................................................ 21
3.3.1.2 准备 Linux 环境 .................................................................................................................................................. 21
3.3.2 配置模型接口 ........................................................................................................................................................ 21
3.3.3 优化策略配置 ........................................................................................................................................................ 27
3.3.4 训练模型 ................................................................................................................................................................ 29
3.3.5 转换模型 ................................................................................................................................................................ 30
4 网络结构搜索训练........................................................................................................................ 31
4.1 环境准备 ................................................................................................................................................................... 31
4.1.1 Docker 环境............................................................................................................................................................ 31
4.1.2 Linux 环境 ............................................................................................................................................................... 32
4.2 数据集准备 ............................................................................................................................................................... 33
4.3 搜索参数配置 ........................................................................................................................................................... 33
4.4 自定义接口 ............................................................................................................................................................... 36
4.5 搜索训练 ................................................................................................................................................................... 39
4.5.1 训练入口 ................................................................................................................................................................ 39
4.5.2 维测方式 ................................................................................................................................................................ 39
4.5.3 搜索结果展示 ........................................................................................................................................................ 41
5 示 例 .......................................................................................................................................... 44
5.1 Caffe Quant_INT8-8 无训练量化 Demo ................................................................................................................... 44
5.1.1 环境准备 ................................................................................................................................................................ 44
5.1.2 资源配置 ................................................................................................................................................................ 44
5.1.3 模型量化 ................................................................................................................................................................ 44
5.2 Tensorflow Quant_INT8-8 无训练量化 Demo .......................................................................................................... 45
5.2.1 环境准备 ................................................................................................................................................................ 45
5.2.2 模型配置 ................................................................................................................................................................ 45
5.2.3 模型量化 ................................................................................................................................................................ 45
5.3 Caffe 重训练量化 Demo ........................................................................................................................................... 45
5.3.1 数据集准备 ............................................................................................................................................................ 45
5.3.2 环境准备 ................................................................................................................................................................ 46
5.3.3 模型配置 ................................................................................................................................................................ 46
5.3.4 优化策略配置 ........................................................................................................................................................ 46
5.3.5 模型训练 ................................................................................................................................................................ 46
5.3.6 模型转换 ................................................................................................................................................................ 46
5.4 TensorFlow 重训练量化 Demo ................................................................................................................................. 46
5.4.1 数据集准备 ............................................................................................................................................................ 46
5.4.2 环境准备 ................................................................................................................................................................ 47
剩余62页未读,继续阅读
地图帝
- 粉丝: 22
- 资源: 297
上传资源 快速赚钱
- 我的内容管理 展开
- 我的资源 快来上传第一个资源
- 我的收益 登录查看自己的收益
- 我的积分 登录查看自己的积分
- 我的C币 登录后查看C币余额
- 我的收藏
- 我的下载
- 下载帮助
安全验证
文档复制为VIP权益,开通VIP直接复制
信息提交成功
评论0