control-layer

全球最快的AI模型閘道(比LiteLLM減少450倍開銷)。透過單一認證層,統一存取跨端點(OpenAI、自架等)的LLM

control-layer 是什麼?

全球最快的AI模型閘道(比LiteLLM減少450倍開銷)。透過單一認證層統一存取跨端點(OpenAI、自架等)的LLM,並提供API金鑰生成、使用者管理、請求記錄等功能