Python中ONNX Runtime（ORT）安装指南

1. Python 安装 ONNX Runtime

安装cpu版的 onnx runtime：

pip install onnxruntime

安装gpu版的 onnx runtime（cuda 11.x）：(默认安装适用于cuda 11.8 的onnx runtime)

pip install onnxruntime-gpu

安装gpu版的 onnx runtime（cuda 12.x）：

pip install onnxruntime-gpu --extra-index-url https://aiinfra.pkgs.visualstudio.com/PublicPackages/_packaging/onnxruntime-cuda-12/pypi/simple/

由于CUDA版本的向下兼容性，采用CUDA 11.8 编译的 ONNX Runtime 能够兼容任意 CUDA 11.x 版本，采用CUDA 12.2 编译的 ONNX Runtime 能够兼容任意 CUDA 12.x 版本。

采用cudnn 8.x 编译的 ONNX Runtime 不兼容 cudnn 9.x。

作者：penghuahuijuan