【免费】15_第十五章_异构运算、GPU及框架选型1资源-CSDN文库

需积分: 0 85 浏览量 2022-08-03 11:39:55 上传评论收藏 883KB PDF 举报

资源详情

资源评论

资源推荐

第⼗五章第⼗五章异构运算、异构运算、

GPU及框架选型及框架选型

DeepLearning

第⼗五章  异构计算，  GPU和框架选型指南
1  什么是异构计算？
2  什么是GPU？
3  GPU架构简介
3.1  如何通俗理解GPU的架构？
3.2  CUDA  核⼼是什么？
3.3  为什么要使⽤GPU？
3.4  深度学习中的GPU应⽤
3.5  新图灵架构⾥的t ensor  core对深度学习有什么作⽤？
4  CUDA  框架
4.1  做CUDA编程难不难？
4.2  cuDNN
5  GPU硬件环境配置推荐
5.1  GPU主要性能指标
5.2  购买建议
6  软件环境搭建
6.1  操作系统选择？
6.2  常⽤基础软件安装？
6.3  本机安装还是使⽤docker？
6.4  GPU驱动问题
7  框架选择
7.1  主流框架⽐较
7.2  框架详细信息
7.3  哪些框架对于部署环境友好？
7.4  移动平台的框架如何选择？
8  其他
8.1  多GPU环境的配置
8.2  是不是可以分布式训练？
8.3  可以在SPARK环境⾥训练或者部署模型吗？
8.4  怎么进⼀步优化性能？
8.5  TPU和GPU的区别？
8.6  未来量⼦计算对于深度学习等AI技术的影响？
1  GPU购买指南
1.1  如何选择GPU
1.2  GPU的主要性能指标
1.3  整机配置
1.4  ⼩结
2  框架选型
2.1  常⽤框架简介
3  模型部署
相关⽂献
第⼗五章 异构计算， GPU和框架选型指南
深度学习训练和推理的过程中，会涉及到⼤量的向量(vector)，矩阵(matrix)和张量(t ensor)操作，通常需要⼤量的浮点计
算，包括⾼精度（在训练的时候）和低精度（在推理和部署的时候）。GPU，  作为⼀种通⽤可编程的加速器，最初设计是⽤
来进⾏图形处理和渲染功能，但是从2007年开始，英伟达(NVIDIA)公司提出了第⼀个可编程通⽤计算平台（GPU），同时提
出了CUDA框架，从此开启了GPU⽤于通⽤计算的新纪元。此后，不计其数的科研⼈员和开发者，对各种不同类型的算法⽤
CUDA进⾏（部分）改写，从⽽达到⼏倍到数百倍的加速效果。尤其是在机器学习，特别是深度学习的浪潮来临后，GPU加
速已经是各类⼯具实现的基本底层构架之⼀。本章⾥，会简单介绍GPU的基本架构，性能指标，框架选择等等和深度学习相
关的内容。
1 什么是异构计算？
异构计算是基于⼀个更加朴素的概念，”异构现象“，也就是不同计算平台之间，由于硬件结构（包括计算核⼼和内存），指令
集和底层软件实现等⽅⾯的不同⽽有着不同的特性。异构计算就是使⽤结合了两个或者多个不同的计算平台，并进⾏协同运
第⼗五章 异构计算， GPU和框架选型指南
1/14