https://github.com/vllm-project/vllm/blob/v0.11.0/pyproject.toml
在pyproject.toml中查看pytorch版本:
bash展开代码requires = [
"cmake>=3.26.1",
"ninja",
"packaging>=24.2",
"setuptools>=77.0.3,<80.0.0",
"setuptools-scm>=8.0",
"torch == 2.8.0",
"wheel",
"jinja2",
]
安装uv:
bash展开代码curl -LsSf https://astral.sh/uv/install.sh | sh
source $HOME/.local/bin/env
查看cuda版本:
bash展开代码nvcc --version
安装vllm:
bash展开代码uv pip install vllm==0.11.0 --torch-backend=cu129 --system --break-system-packages
torch如果掉了就再装:
bash展开代码# CUDA 12.9
uv pip install torch==2.8.0 torchvision==0.23.0 torchaudio==2.8.0 --index-url https://download.pytorch.org/whl/cu129 --system


本文作者:Dong
本文链接:
版权声明:本博客所有文章除特别声明外,均采用 CC BY-NC。本作品采用《知识共享署名-非商业性使用 4.0 国际许可协议》进行许可。您可以在非商业用途下自由转载和修改,但必须注明出处并提供原作者链接。 许可协议。转载请注明出处!