modelship

自我託管、相容 OpenAI 的推論，專為代理時代打造：推理大型語言模型、通用工具呼叫，以及回應 API，同時支援嵌入、語音與影像模型——多個模型共享您的 GPU，單一閘道。由 Ray Serve 提供技術支援。

modelship 是什麼？

自我託管、相容 OpenAI 的推論，專為代理時代打造：推理大型語言模型、通用工具呼叫，以及回應 API，同時支援嵌入、語音與影像模型——多個模型共享您的 GPU，單一閘道。由 Ray Serve 提供技術支援。