xllama
在 Xbox Series S 和 Series X 開發者模式下進行本地 LLM 推論:llama.cpp (GGUF) + ONNX Runtime GenAI,一個 OpenAI 相容的區域網路端點(預設關閉)
xllama 是什麼?
在 Xbox Series S 和 Series X 開發者模式下進行本地 LLM 推論:llama.cpp (GGUF) + ONNX Runtime GenAI,一個 OpenAI 相容的區域網路端點(預設關閉)、SD-Turbo 影像生成及實驗性裝置端微調。在 Series S 上測量。獨立專案,與 Microsoft 無關。