TensorSharp
一個原生的 .NET LLM 推論引擎與代理執行環境,專為 GGUF 模型設計。TensorSharp 提供主控台應用程式、網頁聊天機器人介面、iPhone App,以及
TensorSharp 是什麼?
一個原生的 .NET LLM 推論引擎與代理執行環境,專為 GGUF 模型設計。TensorSharp 提供主控台應用程式、網頁聊天機器人介面、iPhone App,以及與 Ollama/OpenAI 相容的 HTTP API 以進行程式化存取。支援 Windows/MacOS/iOS/Linux,具備完整 GPU 能力。