【Stable-Diffusion/SD-WebUI】使用TensorRT加速推理达到出图效率翻倍,安装失败的解决方案 Stable-Diffusion

mowen 2023-10-25 798

更新cuda12.3.0_545.84驱动版本:

https://developer.nvidia.com/cuda-12-3-0-download-archive


手动安装cuDNN、TensorRT、nvidia-pyindex、onnx、onnxruntime、onnx-graphsurgeon、polygraphy、colored:

python -m pip install --upgrade pip
python -m pip uninstall -y tensorrt tensorrt-bindings tensorrt-libs
python -m pip install nvidia-cudnn-cu11==8.9.4.25
python -m pip install --pre --extra-index-url https://pypi.nvidia.com/ tensorrt==9.0.1.post11.dev4
python -m pip uninstall -y nvidia-cudnn-cu11
python -m pip install nvidia-pyindex onnx onnxruntime onnx-graphsurgeon polygraphy colored


Stable Diffusion重新安装TensorRT插件:

https://github.com/NVIDIA/Stable-Diffusion-WebUI-TensorRT


TensorRT历史版本:

https://pypi.org/project/tensorrt/#history


cuDNN历史版本:

https://developer.nvidia.com/rdp/cudnn-download


NVIDIA官方post:

https://nvidia.custhelp.com/app/answers/detail/a_id/5487/~/tensorrt-extension-for-stable-diffusion-web-ui


最新回复 (0)
返回
发新帖
X