TensorSharp

一個原生 .NET LLM 推論引擎，專為 GGUF 模型設計。TensorSharp 提供主控台應用程式、網頁聊天機器人介面，以及相容於 Ollama/OpenAI 的 HTTP API，方便程式化存取。

TensorSharp 是什麼？

一個原生 .NET LLM 推論引擎，專為 GGUF 模型設計。TensorSharp 提供主控台應用程式、網頁聊天機器人介面，以及相容於 Ollama/OpenAI 的 HTTP API，方便程式化存取。支援 Windows/MacOS/Linux，並具備完整 GPU 加速能力。