CUDA

选择runfile版本，不要直接在服务器上用Installation Instructions，因为下不下来。用IDM下载器等工具，在自己电脑上下好之后，传到服务器上，然后执行以下命令。其中的文件用自己下载的CUDA安装文件名，本人安装的CUDA版本为11.6。

sudo sh cuda_11.6.1_510.47.03_linux.run

安装过程中，若已经有显卡驱动，需要把Driver那个选项按空格键取消，然后选Install安装。

安装完毕后，需要配置环境变量。首先用以下命令打开.bashrc。

sudo vim ~/.bashrc

按I键进入vim的插入编辑模式，在文件末尾插入如下内容。这一部分很多博客写的不一样，以下是我尝试后在我的环境下可以生效的环境变量配置，供大家参考。

export LD_LIBRARY_PATH="/usr/local/cuda/lib64:$LD_LIBRARY_PATH"
export PATH="/usr/local/cuda/bin:$PATH"
export CUDA_HOME="/usr/local/cuda:$CUDA_HOME"

编辑完成后，按esc键退出vim编辑器，再输入:wq保存文件并退出。然后，输入以下命令，激活更新后的环境变量。

source ~/.bashrc

注意，上面路径中是用/cuda而不是/cuda-11.6，因为接下来需要通过软链接，以实现多个CUDA版本共存。输入下面代码，即可完成软链接的生成，其中/cuda-11.6替换成自己的cuda安装目录名称。

sudo rm -rf /usr/local/cuda  #删除之前生成的软链接
sudo ln -s /usr/local/cuda-11.6 /usr/local/cuda  #生成新的软链接

完成后可以看到，/usr/local/下生成了一个名为cuda的快捷方式，它实际上就映射到了cuda-11.6文件夹。之后如果需要更换CUDA版本，只需再执行以上两条命令，替换软链接就行。

最后，用以下命令，查看当前cuda版本。

nvcc -V

不出意外的话，会显示如下内容，那么cuda安装成功。

cuDNN

下载cuDNN，选择的linux下的tar文件进行下载。

上传到linux服务器，用以下命令解压文件，将解压后的文件夹重命名成cudnn。

tar -xzvf 下载的压缩包文件名

执行以下命令，完成cudnn的安装。（当前最新版本下可运行，和大部分博客有所不同）

sudo cp cudnn/include/cudnn*.h /usr/local/cuda/include/
sudo cp cudnn/lib/libcudnn* /usr/local/cuda/lib64/
sudo chmod a+r /usr/local/cuda/include/cudnn*.h
sudo chmod a+r /usr/local/cuda/lib64/libcudnn*

执行以下命令，检查cudnn的安装。（当前最新版本下可运行，和大部分博客有所不同）

cat /usr/local/cuda/include/cudnn_version.h | grep CUDNN_MAJOR -A 2

如出现以下输出，则安装成功。

参考博文：

https://blog.csdn.net/AiBigData/article/details/112855741

https://blog.csdn.net/sinat_36502563/article/details/102866033

https://zhouchen.blog.csdn.net/article/details/107778087