CUDA error: out of memory (allocate at /pytorch/aten/src/THC/THCCarchingAllocator.cpp:510)

在pytorch中，使用多GPU训练，但测试加载模型时使用单张GPU会出现这类报错

解决：

整个model打包保存的情况下，加载模型时应：

model_path = 'model.tar'

checkpoint = torch.load(model_path)

model = checkpoint['model']

if isintance(model, torvh.nn.DataParallel):

      model = model.module

model = model.cuda()

model.eval()