AI 工具監控工具

inferock-bench

適用於 OpenAI、Anthropic、Gemini 及固定 OpenRouter 呼叫的本地 LLM 成本追蹤代理，提供令牌用量、失敗與計費完整性收據。

inferock-bench 是什麼？

本地 LLM 成本追蹤代理，支援 OpenAI、Anthropic、Gemini 及固定 OpenRouter 呼叫，提供令牌用量、失敗與計費完整性收據。