semantic-router

適用於異質 LLM 推論的可程式化模型混合路由器

semantic-router 是什麼？

適用於異質 LLM 推論的可程式化模型混合路由器。此工具可讓您以程式化方式路由請求至不同的語言模型，以最佳化效能與成本。