dgx-spark-inference-stack
在家部署!專為您的 Nvidia DGX / RTX Spark(128GB 記憶體)打造的推論堆疊,也就是您桌上的 Grace Blackwell AI 超級電腦。目前主要基於 vLLM,
dgx-spark-inference-stack 是什麼?
在家部署!專為您的 Nvidia DGX / RTX Spark(128GB 記憶體)打造的推論堆疊,也就是您桌上的 Grace Blackwell AI 超級電腦。目前主要基於 vLLM 且為單一 Spark 設計。專為非富裕人士打造。每月更新一次。業餘專案。