基于ollama-gpu + E5 CPU + TESLA-P40 显卡安装CUDA(12.9.1)

原创

已于 2025-06-24 10:11:19 修改 · 1.9k 阅读

标签

#语言模型

收录于

于 2025-06-23 21:47:35 首次发布

前言：

在此之前，写了一篇基于GTX1660显卡的CUDA 11.2的环境搭建，参考链接：基于tensorflow-gpu + E5 CPU + GTX1660 SUPER + TESLA-P40 显卡安装CUDA(11.8.0)

本文为基于NVIDIA GPU （TESLA P40) 进行 tensorflow(CUDA) 计算的环境配置说明，如果电脑中安装有cuDNN 且Tensorflow支持的话，会默认优先使用GPU进行计算，如果有多块GPU ，需要代码指定使用哪一块显卡进行计算，如果配置CUDA失败，会使用CPU计算

#	软件	说明	查询地址
1	操作系统	WINDOWS10	-
2	cuda显卡	在cuda-gpus列表查询当前显卡是否支持cuda功能及Compute Capability版本	cuda-gpus
3	CUDA 版本	通过查询Tensorflow-GPU版本列表，当前文档中最高支持CUDA 11.2，但是实际上使用CUDA(11.8.0)版本配合对应版本cuDNN依然可以使用低版本的Tensorflow-GPU	Tensorflow-GPU
4	显卡驱动	找到与CUDA 版本对应的CUDA开发工具的-显卡驱动即可	cuda-toolkit-release
5	cuDNN	在cudnn-archive版本列表中显示 for CUDA 11.x 或者指定版本即可	cudnn