CUDA out of memory. Tried to allocate 16.00 MiB (GPU 0； 6.00 GiB total capacity；总结（1）

原创 已于 2023-05-04 10:43:47 修改 · 3.5w 阅读 · 53
标签
#pytorch #深度学习
于 2021-09-04 20:38:38 首次发布
博客内容涉及CUDA内存不足的问题，用户尝试解决时发现GPU未被充分利用，且CUDA只识别到一个GPU，尽管系统有多个。通过检查和设置`CUDA_VISIBLE_DEVICES`环境变量，确认只有一个GPU可供使用。解决方案可能包括优化内存分配和使用多GPU策略。

 CUDA out of memory. Tried to allocate 16.00 MiB (GPU 0; 6.00 GiB total capacity; 4.54 GiB already allocated; 14.94 MiB free; 4.64 GiB reserved in total by PyTorch)

分析问题 CUDA内存超载

解决尝试一：GPU未被调用，

[881]内存不足RuntimeError: CUDA out of memory. Tried to allocate 16.00 MiB (GPU 0； 2.00 GiB total cap..._cuda out of memory. tried to allocate 4.88 gib (gp_周小董的博客-CSDN博客

 实际上有那么一瞬间调用了。

按照上面的方法调用，还是这样。

我感觉主要问题是很多内存没有被调用，

上面的报错翻译是CUDA内存不足。尝试分配16.00 MiB（GPU 0；总容量6.00 GiB；4.54已分配的GiB；14.94无MiB；PyTorch共预留4.64个GiB）

我想到很多内存没有调用

于是查询了

最低0.47元/天 解锁文章
RuntimeError: CUDA out of memory. Tried to allocate 16.00 MiB (GPU 0； 2.00 GiB total capacity； 1.34
08-04 6657
RuntimeError: CUDA out of memory.1. with torch.no_grad()2. os.environ["CUDA_VISIBLE_DEVICES"]3. torch.cuda.empty_cache()4. batch_size=1 1. with torch.no_grad() 注意pytorch在test时，一定要加上: with torch.no_grad(): outputs = Net_(inputs) ---错误代码的位置。 不计算梯度，否则会使显存加倍
pytorch: 四种方法解决RuntimeError: CUDA out of memory. Tried to allocate ... MiB
热门推荐
xiyou__的博客
07-06 20万+
Bug：RuntimeError: CUDA out of memory. Tried to allocate … MiB 解决方法： 法一： 调小batch_size，设到4基本上能解决问题，如果还不行，该方法pass。 法二： 在报错处、代码关键节点（一个epoch跑完…）插入以下代码（目的是定时清内存）： import torch, gc gc.collect() torch.cuda.empty_cache() 法三（常用方法）： 在测试阶段和验证阶段前插入代码 with torch.no_gr
[881]内存不足RuntimeError: CUDA out of memory. Tried to allocate 16.00 MiB (GPU 0； 2.00 GiB total cap...
sinat_42367115的博客
04-21 5751
今天第一次在服务器上跑代码 也是第一次接触cuda显存卡 碰到了标题问题 将解决办法记录下来 1.首先去查看cuda显存占用情况： nvidia-smi 显示所有GPU的当前信息状态（图源网络 不想再去截图啦 介意可删） 发现第二列其实占用没满 接着考虑第二种情况 2. 如果是训练中 可考虑将batch_size调小一些 如果在测试集中 在代码问题的上一行 加入withtorch.no_grad(): 3.考虑训练图片分辨率太高 换数据集进行测试或者将图片大小改小一点 亲测有效！.
torch.cuda.OutOfMemoryError: CUDA out of memory.
Hello_World1023的博客
04-25 4万+
发现gpu:0显存被PID:19409程序大量占用, 报错应该是默认在gpu:0训练导致显存不足, 接着查看gpu:0上程序所属用户(如果不是师兄的我就kill了)设置完成后查看显存占用情况可以看到, gpu:1显存占用马上上升了, 不影响其他gpu卡的显存。这样即可指定在gpu:1上训练, 实际上是只设置gpu:1可见, 而屏蔽其他gpu卡。这样即可指定在gpu:1上训练, 实际上是只设置gpu:1可见, 而屏蔽其他gpu卡。发现gpu:1空闲, 指定gpu:1上训练模型, 有多种方法,
RuntimeError: CUDA out of memory
qq_46600553的博客
07-29 1万+
报错内容： RuntimeError: CUDA out of memory. Tried to allocate 16.00 MiB (GPU 0; 2.00 GiB total capacity; 1.34 GiB already allocated; 14.76 MiB free; 1.38 GiB reserved in total by PyTorch) 查资料的过程发现另一种报错： RuntimeError: CUDA out of memory. Tried to allocate 12.50
解决：RuntimeError: CUDA out of memory. Tried to allocate 2.00 MiB
咖乐部
11-03 2万+
有文章说：减小batch_size 解决。但是减小到4还是解决不了。 上一篇文章https://mp.csdn.net/editor/html/109211594：说with torch.no_grad()，就是不生成计算图。计算结果没有差异。 但是！！！对于计算机资源的占用却有差异！不生成计算图，GPU就会小很大的负担 如图，bath_size = 4,依然报错 在for i,(data,labels) in enumerate（data）前加上这句代码：顺利执行。同时，batc...
解决：RuntimeError: CUDA out of memory. Tried to allocate 64.00 MiB (GPU 0； 4.00 GiB total capacity； 2
universe_R的博客
05-03 3万+
引发pytorch：CUDA out of memory错误的原因有两个： 1.当前要使用的GPU正在被占用，导致显存不足以运行你要运行的模型训练命令不能正常运行 解决方法： 1.换另外的GPU 2.kill 掉占用GPU的另外的程序（慎用！因为另外正在占用GPU的程序可能是别人在运行的程序，如果是自己的不重要的程序则可以kill） 命令行中输入以下命令，可以查看当前正在GPU运行的程序： nvidia-smi 再根据上面显示的正在运行程序的PID，输入以下查看进程的命令，可以查看到进程的相关信息，包括
CUDA out of memory. Tried to allocate 16.00 MiB (GPU 0； 6.00 GiB total capacity；总结（2）
qq_38148600的博客
09-10 4000
今天试了一下，缩小版的数据集，依旧无法运行。 报错为RuntimeError: CUDA out of memory. Tried to allocate 20.00 MiB (GPU 0; 6.00 GiB total capacity; 4.58 GiB already allocated; 6.94 MiB free; 4.65 GiB reserved in total by PyTorch) 这证明是有什么软件提前占用了gpu。 Windows下查看GPU(NVIDIA)使用情况_墨理三生-
解决方法：RuntimeError: CUDA out of memory. Tried to allocate ... MiB
qq_44504069的博客
05-11 1万+
RuntimeError: CUDA out of memory. Tried to allocate 978.00 MiB (GPU 0; 15.90 GiB total capacity; 14.22 GiB already allocated; 167.88 MiB free; 14.99 GiB reserved in total by PyTorch)
求助！RuntimeError: CUDA out of memory. Tried to allocate 16.00 MiB (GPU 0； 6.00 GiB total capacity； 5.
xtz_zy的博客
05-26 365
求助大神们！！！CUDA out of memory问题
解决：RuntimeError: CUDA out of memory. Tried to allocate 128.00 MiB (GPU 0； 2.00 GiB total capacity； 1
地中海の养成记
01-31 6万+
1. 问题2. 分析3. 解决 1. 问题 训练模型时报错： RuntimeError: CUDA out of memory. Tried to allocate 128.00 MiB (GPU 0; 2.00 GiB total capacity; 1.49 GiB already allocated; 57.03 MiB free; 6.95 MiB cached) 2. 分析 这种问题，是GPU内存不够引起的 3. 解决 方法一： 换高性能高显存的显卡 方法二：修改代码 报错的训练代码为.
RuntimeError: CUDA out of memory. Tried to allocate 16.00 MiB (GPU 0； 10.92 GiB total capacity； 3.66
weixin_43509698的博客
12-30 4180
1.在训练一个网络模型，报CUDA out of menmory： CUDA out of menmory:先找到报错的信息，例如下图是out=net(x)，因此需要给out=net(x)上面加 with torch.no_grad():
RuntimeError: CUDA out of memory. Tried to allocate 20.00 MiB (GPU 0； 4.00 GiB total capacity； 2.44
华墨1024的博客
04-04 6万+
使用不计算梯度的方法解决RuntimeError: CUDA out of memory. Tried to allocate 20.00 MiB (GPU 0; 4.00 GiB total capacity; 2.44 GiB already allocated; 0 bytes free; 2.45 GiB reserved in total by PyTorch)
解决：torch.cuda.OutOfMemoryError: CUDA out of memory.
weixin_44813538的博客
05-11 1万+
2. 解决：可以尝试将batch_size调小。1. 场景：在改进yolov7过程中出现错误。
已解决：RuntimeError: CUDA error: out of memory
hh5187的博客
09-26 4万+
1. 检查是否使用了合适版本的torch print(torch.__version__) # 1.9.1+cu111 print(torch.version.cuda) # 11.1 print(torch.backends.cudnn.version()) # 8005 print(torch.cuda.current_device()) # 0 print(torch.cuda.is_available()) # TRUE 2.检查是否显存不足，尝试修改训练的batch size，修
解决出现CUDA error:out of memory的问题
qq_46542320的博客
05-24 2万+
使用：CUDA_VISIBLE_DEVICES限制一下使用的GPU。CUDA_VISIBLE_DEVICES=0,1 则使用这两张GPU。CUDA_VISIBLE_DEVICES=0 则使用第一张GPU。CUDA_VISIBLE_DEVICES=1，则使用第二张GPU。如何设置CUDA_VISIBLE_DEVICES？例如：有两块GPU，即0,1号GPU，查阅资料，发现是显卡内存不足。
（超全方法）尝试解决问题：torch.cuda.OutOfMemoryError: CUDA out of memory.
最新发布
qq_56438555的博客
11-28 3万+
提供多种方法解决CUDA内存不足（Out of Memory）的问题。
CUDA out of memory. Tried to allocate 16.00 MiB (GPU 0； 6.00 GiB total capacity； 4.54 GiB already a
qq_43384629的博客
04-08 1782
常见的说1.改batch_size的大小2.换好显卡(我电脑都是3070ti还是不行，感觉就不是电脑的事)3.改代码（使用gpu训练的代码就这个就行。而我在搜这个问题的时候，发现这个老哥的说法很正确，自己也尝试成功了，他的解决办法是。
Yolov8模型训练报错：torch.cuda.OutOfMemoryError
大雾的小屋的博客
11-10 7390
最近在使用自己的数据训练Yolov8模型的时候遇到了很多错误，下面将逐一解答。 如何解决：torch.cuda.OutOfMemoryError的报错问题。
评论 10
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值