control-layer
開放原始碼閘道,用於在專用推論環境中大規模執行代理程式。透過您自己的模型部署提供 OpenAI 相容 API,並支援團隊專用金鑰、用量計量、請求記錄與容量固定。
control-layer 是什麼?
開放原始碼閘道,用於在專用推論環境中大規模執行代理程式。透過您自己的模型部署提供 OpenAI 相容 API,並支援團隊專用金鑰、用量計量、請求記錄與容量固定。相較於 LiteLLM,開銷減少 450 倍。
開放原始碼閘道,用於在專用推論環境中大規模執行代理程式。透過您自己的模型部署提供 OpenAI 相容 API,並支援團隊專用金鑰、用量計量、請求記錄與容量固定。
開放原始碼閘道,用於在專用推論環境中大規模執行代理程式。透過您自己的模型部署提供 OpenAI 相容 API,並支援團隊專用金鑰、用量計量、請求記錄與容量固定。相較於 LiteLLM,開銷減少 450 倍。