control-layer

開放原始碼閘道,用於在專用推論環境中大規模執行代理程式。透過您自己的模型部署提供 OpenAI 相容 API,並支援團隊專用金鑰、用量計量、請求記錄與容量固定。

control-layer 是什麼?

開放原始碼閘道,用於在專用推論環境中大規模執行代理程式。透過您自己的模型部署提供 OpenAI 相容 API,並支援團隊專用金鑰、用量計量、請求記錄與容量固定。相較於 LiteLLM,開銷減少 450 倍。

將此徽章加入你的 README

Featured on YunoDB 徽章樣式與說明

你是這個專案的維護者嗎?展示它已收錄於 YunoDB。

Markdown[![Featured on YunoDB](https://yunodb.com/badge/doublewordaicontrol-layer.svg)](https://yunodb.com/tools/doublewordaicontrol-layer?utm_source=github&utm_medium=badge)
HTML<a href="https://yunodb.com/tools/doublewordaicontrol-layer?utm_source=github&utm_medium=badge"><img src="https://yunodb.com/badge/doublewordaicontrol-layer.svg" alt="Featured on YunoDB" height="20"></a>