vllm-windows-build

原生Windows vLLM:0.27.1 最新版;0.29.0 Python 3.14/CUDA 13.2 發行版(CPU TorchAudio),加上 Python 3.13/CUDA 13.0 預覽版。PyTorch 2.13,FlashAttention/R

vllm-windows-build 是什麼?

原生Windows vLLM:0.27.1 最新版;0.29.0 Python 3.14/CUDA 13.2 發行版(CPU TorchAudio),加上 Python 3.13/CUDA 13.0 預覽版。PyTorch 2.13,FlashAttention/Rust,OpenAI 服務,10 種 KV 格式,Multi-TurboQuant,實驗性 CPU/NVMe KV 卸載。無需 WSL 或 Docker。