B

bifrost

最快的企業級AI閘道(比LiteLLM快50倍),具備自適應負載平衡器、叢集模式、安全護欄、支援超過1000種模型,且在每秒5000次請求下額外負擔低於100微秒

bifrost 是什麼?

最快的企業級AI閘道(比LiteLLM快50倍),具備自適應負載平衡器、叢集模式、安全護欄、支援超過1000種模型,且在每秒5000次請求下額外負擔低於100微秒