没有合适的资源?快使用搜索试试~ 我知道了~
onnx计算图优化 计算图匹配 计算图融合 layerNorm融合 groupNorm融合
0 下载量 191 浏览量
2024-02-23
11:00:58
上传
评论
收藏 51KB PY 举报
温馨提示
onnx计算图优化 计算图匹配 计算图融合 layerNorm融合 groupNorm融合 计算图匹配: 计算图匹配是图优化的一种技术,它通过搜索和匹配计算图中的特定模式或子图,然后应用预定义的优化规则来替换这些模式。这种方法通常用于识别并优化常见的、可以简化的图结构。 计算图融合: 计算图融合是一种高级的图优化技术,它可以将多个独立的操作融合成一个更复杂的操作。这种融合可以减少计算图中的节点数量,降低内存访问开销,以及减少计算过程中的数据拷贝次数,从而提高模型的执行效率。 LayerNorm 融合: Layer Normalization(层归一化)是一种常用的归一化技术,用于加速模型训练和提高模型性能。LayerNorm 融合是将 LayerNorm 操作与其相邻的操作(如卷积、全连接层等)融合到一起,从而减少计算图中的节点数量,提高计算效率。 GroupNorm 融合: Group Normalization(分组归一化)是另一种归一化技术,用于当通道数较少时避免批量归一化(Batch Normalization)的性能下降。GroupNorm 融合与 LayerNorm
资源推荐
资源评论
资源评论
EwenWanW
- 粉丝: 2256
- 资源: 10
上传资源 快速赚钱
- 我的内容管理 展开
- 我的资源 快来上传第一个资源
- 我的收益 登录查看自己的收益
- 我的积分 登录查看自己的积分
- 我的C币 登录后查看C币余额
- 我的收藏
- 我的下载
- 下载帮助
安全验证
文档复制为VIP权益,开通VIP直接复制
信息提交成功