vllm-windows-build
原生 Windows vLLM 0.33.0(Python 3.13/CUDA 13.0),另附 Python 3.14/CUDA 13.2 版本;舊版請至 Releases 頁面。PyTorch 2.14、FlashAttention/Rust、
vllm-windows-build 是什麼?
原生 Windows vLLM 0.33.0(Python 3.13/CUDA 13.0),另附 Python 3.14/CUDA 13.2 版本;舊版請至 Releases 頁面。PyTorch 2.14、FlashAttention/Rust、OpenAI 服務、10 種 KV 格式、Multi-TurboQuant、實驗性 CPU/NVMe KV 卸載。無需 WSL 或 Docker。