DDR爱好者之家

Pytorch如何切换 cpu和gpu的使用详解
站长资源 2024/12/28 佚名
63 1538
DDR爱好者之家 Design By 杰米

前言，在pytorch中，当服务器上的gpu被占用时，很多时候我们想先用cpu调试下代码，那么就需要进行gpu和cpu的切换。

方法1：x.to(device)

把 device 作为一个可变参数，推荐使用argparse进行加载：

使用gpu时：

device='cuda'
x.to(device) # x是一个tensor，传到cuda上去

使用cpu时：

device='cpu'
x.to(device)

方法2：使用x.cuda()+CUDA_VISIBLE_DEVICES

很多贴子中说，使用x.cuda() 和x.to('cuda') 虽然是等效的，但是x.cuda() 的缺点是无法动态切换cpu。然而，其实配合命令行参数CUDA_VISIBLE_DEVICES 是可以进行切换的。

在服务器上创建一个python脚本 t.py：

import torch
print(torch.cuda.device_count()) # 可用gpu数量
print(torch.cuda.is_available()) # 是否可用gpu

首先先看一下，正常运行的情况：

  • 执行命令：python t.py
  • 输出结果：因为服务器上有两个gpu，所以是我们想要的结果。

2
True

如果想要只使用某一块gpu，只需要在执行前加一个参数：

  • CUDA_VISIBLE_DEVICES=0 python t.py，例如，我们要使用gpu 0
  • 接下来看看输出什么：是的！程序中确实只可见了一块gpu~

1
True

下面，如果我们想使用cpu呢？

  • CUDA_VISIBLE_DEVICES="" python t.py
  • 输出结果：可以看到，虽然服务器上有2块cpu，通过我们设置执行参数，程序中也成功看不到了！

0
False

因此，回归正题，当我们使用x.cuda()进行分配gpu时，只需要使用torch.cuda.is_available()加一个判断即可，当想使用cpu的时候在执行程序的命令行参数进行控制：

if torch.cuda.is_available():
  x= x.cuda()
DDR爱好者之家 Design By 杰米
广告合作：本站广告合作请联系QQ：858582 申请时备注：广告合作（否则不回）
免责声明：本站资源来自互联网收集,仅供用于学习和交流,请遵循相关法律法规,本站一切资源不代表本站立场,如有侵权、后门、不妥请联系本站删除！
DDR爱好者之家 Design By 杰米
ddrfans.com DDR爱好者之家
8,675无损音乐
1,324高清电影
213破解软件
70,141收录资讯

RTX 5090要首发 性能要翻倍！三星展示GDDR7显存

三星在GTC上展示了专为下一代游戏GPU设计的GDDR7内存。

首次推出的GDDR7内存模块密度为16GB，每个模块容量为2GB。其速度预设为32 Gbps（PAM3），但也可以降至28 Gbps，以提高产量和初始阶段的整体性能和成本效益。

据三星表示，GDDR7内存的能效将提高20%，同时工作电压仅为1.1V，低于标准的1.2V。通过采用更新的封装材料和优化的电路设计，使得在高速运行时的发热量降低，GDDR7的热阻比GDDR6降低了70%。

更新日志

友情链接

杰晶网络 DDR爱好者之家 南强小屋 黑松山资源网 白云城资源网
DDR爱好者之家 Design By 杰米