pytorch中gpu与gpu、gpu与cpu在load时相互转化操作_torch.device('cuda')资源-CSDN文库

5星 · 超过95%的资源 82 浏览量 2020-09-16 19:40:21 上传评论收藏 42KB PDF 举报

资源推荐

资源详情

资源评论

pytorch中中 gpu与与gpu、、gpu与与cpu 在在load时相互转化操作时相互转化操作

主要介绍了pytorch模型载入之gpu和cpu互转操作，具有很好的参考价值，希望对大家有所帮助。一起跟随小编

过来看看吧

问题描述问题描述

有时在加载已训练好的模型时，会出现 out of memory 的错误提示，但仔细检测使用的GPU卡并没有再用且内存也没有超

出。

经查阅发现原来是训练模型时使用的GPU卡和加载时使用的GPU卡不一样导致的。个人感觉，因为pytorch的模型中是会记录

有GPU信息的，所以有时使用不同的GPU加载时会报错。

解决方法解决方法

gpu之间的相互转换。即，将训练时的gpu卡转换为加载时的gpu卡。

torch.load('modelparameters.pth', map_location={'cuda:1':'cuda:0'}) # gpu 1 --> gpu 0

当然，你也可以直接将加载模型时使用的gpu卡改为和训练时的一样。但在多人使用一个服务器时，你想用的gpu卡已被使

用，就需按上面方法转换gpu。

拓展拓展

cpu --> cpu 或或 gpu --> gpu

checkpoint = torch.load('modelparameters.pth')

model.load_state_dict(checkpoint)

cpu --> gpu 0

torch.load('modelparameters.pth', map_location=lambda storage, loc: storage.cuda(0))

gpu --> cpu

torch.load('modelparameters.pth', map_location=lambda storage, loc: storage)

gpu 1 --> gpu 0

torch.load('modelparameters.pth', map_location={'cuda:1':'cuda:0'})

补充知识：补充知识：pytorch model.cuda()花费时间很长花费时间很长

如果pytorch在进行model.cuda(）操作需要花费的时间很长，长到你怀疑GPU的速度了，那就是不正常的。

如果你用的pytorch版本是0.3.0，升级到0.3.1就好了！

以上这篇pytorch模型载入之gpu和cpu互转操作就是小编分享给大家的全部内容了，希望能给大家一个参考，也希望大家多多

支持我们。

本内容试读结束，登录后可阅读更多

下载后可阅读完整内容，剩余0页未读，立即下载

内容反馈

BJWcn

2023-06-10

这篇文章没有浪费任何文字，直接切入主题并给出了真正有用的技能指导。
艾法

2023-06-10

作者提供了简洁明了的示例代码，让读者可以轻松掌握GPU和CPU间的转换技巧。
呆呆美要暴富

2023-06-10

如果您需要在PyTorch中进行GPU和CPU间的转换操作，那么这篇文章将是一个非常有用的资料。
柔粟

2023-06-10

非常感谢作者精心编辑这篇文章，让我们可以少走很多弯路。
玛卡库克

2023-06-10

这篇文章没有像其他类似的文章那样滥竽充数，而是准确又实用，非常值得一读。

前往

页

weixin_38732425

粉丝: 6
资源: 942

最新资源

资源上传下载、课程学习等过程中有任何疑问或建议，欢迎提出宝贵意见哦~我们会及时处理！点击此处反馈

feedback-tip