使用 Docker + NVidia 运行 Pytorch 验证 GPU 是否真的有效

最新推荐文章于 2026-03-27 04:25:46 发布
原创 最新推荐文章于 2026-03-27 04:25:46 发布 · 4.1k 阅读 · 23
标签
#docker #pytorch #容器
本文介绍了如何在Docker环境中设置NVIDIAGPU支持，包括拉取NVIDIAPyTorch镜像，确认Python版本，测试CUDA有效性，以及调整共享内存和环境变量ENVCUDA_MODULE_LOADING和ENVTORCH_CUDNN_V8_API_ENABLED以优化GPU性能。

一、引言

在运行 NGC 深度学习框架容器之前，您的 Docker 环境必须支持 NVIDIA GPU。若要运行容器，请发出相应的命令，如运行容器中所述，并指定注册表、存储库和标记。

如果前面的指导文章没注意到，可以考虑先阅读一下我的文章了解先决条件：

二、拉取镜像

这个过程不需要考虑网络问题，比较顺利，但由于镜像比较大，大约 22GB，大概需要 N 分钟，看你家网络了。不过第一次很值得，后继又不会一直拉取。

$ docker pull nvcr.io/nvidia/pytorch:24.01-py3
...
Digest: sha256:afd682405d620a620f61f38cb9d9bbc6a5230817699a48e9ed193546e81fb2ee
Status: Downloaded newer image for nvcr.io/nvidia/pytorch:24.01-py3
nvcr.io/nvidia/pytorch:24.01-py3

考虑使用它的原因，是因为阅读了它的构建文件，并且里面有两个重要的属性有在扩展知识说明。

ENV CUDA_MODULE_
最低0.47元/天 解锁文章
Docker：使用Nvidia官方的pytorch、tensorflow、TensorRT镜像创建Container容器
yitiaoxiaolu的博客
02-12 2692
相信大家在学习新的知识前都遇到过开发环境安装不上，或者环境冲突和版本不匹配的情况，如果我们使用虚拟机或者WSL技术新建一个完整系统，这又往往需要耗费很长时间，同时在我们学习深度学习等相关技术时，CUDA、cuDNN、cuBLAS、TensorRT等GPU支持库都有强版本依赖，手动安装需要耗费很长时间，本文将以创建一个包含python=3.8、CUDA=12.1、cuBLAS=12.1 、cuDNN=8.9、TensorRT=8.6.1、pytorch的container为例，介绍使用docker创建容器。
在 Windows 下的 Docker + NVidia 验证运行 Pytorch GPU 并使用 prettytable 打印漂亮输出
ndscvipuser的专栏
03-12 1584
注意这样的代码会有计算结果的差别：`torch.mm(tensor_gpu, tensor_gpu).cpu()` ，它是一个张量的方法，用于将张量从 GPU 内存转移到 CPU 内存。它的作用是将计算结果从 GPU 上移动到 CPU 上，以便在 CPU 上进行后续的操作或访问结果。需要注意的是，频繁地在 GPU 和 CPU 之间移动数据可能会影响性能，因为数据传输是一个相对较慢的操作。可以看到随着 dim_number 的增加，CPU 一直都是递增成正比的，而 GPU 从 2000 开始就是良好的开端。
Qwen3-ASR-1.7B垂直应用：律所合同谈判录音→关键条款时间锚点标记（需对齐模型）
最新发布
weixin_42668301的博客
03-27 728
本文介绍了如何在星图GPU平台自动化部署Qwen3-ASR-1.7B语音识别模型v2，实现法律合同谈判录音的智能处理。该方案能自动转录音频为文本，并标记关键条款的时间锚点，大幅提升律师查阅和整理录音资料的效率，特别适用于并购交易、劳动合同协商等法律场景。
【Tools】NGC Pytorch使用
cheerful090的博客
01-14 3705
NGC：Nvidia Gpu Container https://www.nvidia.cn/gpu-cloud/deep-learning-containers/ NVIDIA GPU Cloud (NGC) NGC 提供的高性能 AI 容器包含 TensorFlow、PyTorch 和 MXNet 等深度学习框架，可以为 AI 研究人员提供诸多帮助。这些预先集成的 GPU 加速框架以及诸如 CUDA 运行时库、NVIDIA 库和操作系统之类的所有必要相关项都由 NVIDIA 进行了调整、测试和验证，现
Vitis-AI 3.0 GPU Docker 安装踩坑及修改
QHY0227的博客
05-18 2910
参考视频参考blog安装的版本为vitis ai 3.0特别鸣谢ChatGPT。
pytorch学习
lantuxin的博客
02-19 5471
1.pytorch环境配置(docker) docker环境--配置过程(配置成功--能使用nvidia-docker命令) 拉取pytorch镜像--参考网站(命令--docker pull nvcr.io/nvidia/pytorch:19.01-py3) 启动docker容器--参考网站(命令--sudo nvidia-docker run -it --rm -v local_dir:...
使用 Docker + NVidia 运行 Pytorch 验证 GPU 是否性能高效
ndscvipuser的专栏
03-11 3421
本文主讲体验，方便深入理解为什么 GPU 这么高效，以及相关的对应措施。
如何在docker容器中使用GPU以及使用pytorch
六十英里的专栏
07-07 1万+
最近刚接触docker，如有不当，请指出。 1. 首先要解决在docker中可以使用GPU的问题。 官方给出了解决办法：https://github.com/NVIDIA/nvidia-docker 具体操作如下: step 1:确认本机可以检测到NVIDIA卡，通过下列命令看自己GPU卡的型号。 lspci -vv | grep -i nvidia step 2:新建nvidia-container-runtime-script.sh文件 touch nvidia-container-ru
搭建GPU版PyTorch Docker镜像
热门推荐
独行穿落叶，闲坐数流萤
09-07 2万+
提要: 记录手动搭建GPU版PyTorch Docker镜像的过程。本地主机已经装好了显卡驱动，CUDA, cuDNN， 因此不再累述。本篇博客覆盖以下内容： Docker常用命令 搭建GPU版PyTorch镜像 Docker常用命令 ubuntu安装步骤 $ apt-get update $ apt-get -y install docker.io # 检查Docker服...
ssh,docker,yolov7,pycharm:pycharm使用ssh连接docker容器环境调试yolov7,共享宿主机gpu.
TUOLONGcsdn的博客
11-22 2098
ssh登录docker容器。pycharm调用docker环境。yolov7训练个人数据集。yolov7环境配置
WARNING: The NVIDIA Driver was not detected. GPU functionality will not be available. Use the NV
qq_38377190的博客
03-08 989
如果模型文件不在 `/app/models/text2vec-large-chinese` 路径下，你可以修改配置文件或环境变量，指定正确的模型路径。确保模型文件确实存在于容器中的 `/app/models/text2vec-large-chinese` 路径下。如果你在本地有模型文件，可以通过挂载卷的方式将模型文件挂载到容器中的指定路径。这样，容器内的 `/app/models` 路径就会映射到你本地的模型文件路径。如果路径不存在或模型文件缺失，你需要将模型文件放入正确的位置。
基于docker-compose和ngc cloud快速创建指定pytorch版本的jupyter-lab环境
Farm_Coder的博客
11-23 3422
基于docker-compose和ngc cloud创建jupyter-lab环境简介找到想要的容器文件目录Dockerfiledocker-compose.ymlrun.shdocker-compose构建镜像及启动容器容器的访问ssh访问浏览器访问upyter lab 简介 本博客以构建指定版本的pytorch运行环境为例，给出Dockerfile、docker-compose.yml以及启动容器的运行脚本。 找到想要的容器 从中 https://docs.nvidia.com/deeplearning
基于 Docker 的深度学习环境：入门篇
折腾技术
03-22 1373
这篇文章聊聊如何从零到一安装、配置一个基于 Docker 容器的深度学习环境。
NVIDIA PyTorch Docker 镜像安装
星辰火之梦
01-15 3664
是一个 NVIDIA 提供的 PyTorch Docker 镜像，其中包含了 PyTorch 以及与 NVIDIA GPU 相关的库，这个过程可能会需要一些时间，取决于你的网络速度和镜像大小。运行此命令后，你将进入容器的 bash shell。表示将容器的8888端口映射到宿主机的8888端口，这样就能从宿主机访问容器中的服务。参数指定使用所有可用的 GPU，如果你想使用特定的 GPU，可以例如使用。如果需要挂载宿主机的目录到容器中，可以使用。如果想要使用指定的端口，需要增加。表示这个镜像的版本号，
docker简单使用
weixin_46455141的博客
06-30 1471
docker简单使用
使用 Docker 快速上手中文版 LLaMA2 开源大模型
折腾技术
07-21 2868
感慨于昨天 Meta LLaMA2 模型开放下载之后，GitHub 上出现了许多“只有 Readme 文档” 的开源模型项目，并一时间在各个群里疯狂传播，宛如“郁金香泡沫”故事里的期货一般。中午吃饭的时候，和朋友一起吐槽，朋友说，这玩意又不难，今晚整一个吧。也希望能藉此让中文开源生态变的更好一些，于是本文的主角就有了：中文版 LLaMA2 模型。；昨天开源的能够使用 Docker 运行 LLaMA2 的项目中，也已经添加了中文 LLaMA2 的模型支持。
docker run使用--gpus all报错
dacming的博客
09-05 2627
缺少依赖nvidia-container-toolkit（需yum安装）加载NVIDIA驱动nvidia-smi。验证可识别宿主机显卡。
Docker 搭建深度学习环境镜像，一次搭建，无限部署！
HinGwenWoong的博客
11-04 4875
Docker 搭建深度学习环境镜像，让你一次搭建无限部署 我们平常开发的时候，难免会遇到多种不同的环境，有的是底层的驱动，有的是依赖库。依赖库的比较好办，可以使用虚拟环境进行分隔，但是不同的驱动的话，我们就会挺头疼的，这时候，Docker 可以解决这一烦恼。 除了开发，我们还会涉及到项目部署，虽然有运维工程师，但是我们开发工程师还是需要协助进行环境的安装，每一个项目都要重头再来搭建环境，让人极其烦躁，但是不做又不行，一个很好的解决方式就是使用Docker 打包镜像，可以将我们这个搭建环境的过程只需一次就可以
docker 中使用gpu
ResumeProject的博客
03-12 5267
如果没有正确配置会报错：could not select device driver “” with capabilities: [[gpu]].
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值