ubuntu安装tensorrt
前提:先安装好cuda和cudnn
步骤一:下载tensorrt压缩包。找到自己对应cuda版本的安装包
从nvidia的官网下载
https://developer.nvidia.com/nvidia-tensorrt-download
(由于我安装的是cuda11,所以我这里下载的是下面这个)

步骤二:下载下来的tensorrt压缩包为TensorRT-8.0.1.6.Linux.x86_64-gnu.cuda-11.3.cudnn8.2.tar.gz,这里放置在服务器的一个路径下,(我是放在了/opt下面)。然后解压这个文件。

cd /opt
tar -zxvf TensorRT-8.0.1.6.Linux.x86_64-gnu.cuda-11.3.cudnn8.2.tar.gz

步骤三:添加环境变量

sudo vi ~/.bashrc
# 在最后添加一行
export LD_LIBRARY_PATH=/opt/TensorRT-8_0_1_6/lib:$LD_LIBRARY_PATH
source ~/.bashrc

步骤四:安装tensorrt的python包。进入tensorrt压缩之后的文件夹,然后进入里面的python文件夹

cd /opt/TensorRT-8_0_1_6/python

python文件夹里面有很多版本,使用pip安装自己对应的python版本

pip install tensorrt-8.0.1.6-cp35-none-linux_x86_64.whl

顺利的话,这时候tensorrt包应该已经安装好了
进入python,导入一下tensorrt包试试

这就安装成功了!!!

可以顺便安装其他两个包
1)安装 uff 包

cd ../uff    # 切换到 uff 文件夹
pip install uff-0.5.5-py2.py3-none-any.whl

测试是否安装成功:

which convert-to-uff  # 会输出安装路径

2)安装 graphsurgen 包

cd ../graphsurgeon     # 切换到 graphsurgeon 文件夹
pip install graphsurgeon-0.3.2-py2.py3-none-any.whl

参考链接:
https://developer.nvidia.com/nvidia-tensorrt-8x-download
https://blog.csdn.net/xulei_Tao/article/details/90339694

来源:melicent114

物联沃分享整理
物联沃-IOTWORD物联网 » ubuntu安装tensorrt

发表评论