inferock-bench

適用於 OpenAI、Anthropic、Gemini 及固定 OpenRouter 呼叫的本地 LLM 成本追蹤代理,提供令牌用量、失敗與計費完整性收據。

inferock-bench 是什麼?

本地 LLM 成本追蹤代理,支援 OpenAI、Anthropic、Gemini 及固定 OpenRouter 呼叫,提供令牌用量、失敗與計費完整性收據。