llmtrim
本地代理,壓縮您的 LLM API 請求以節省費用,且不影響回答內容。修剪提示、歷史記錄、工具輸出和程式碼中浪費的 token
llmtrim 是什麼?
本地代理,壓縮您的 LLM API 請求以節省費用,且不影響回答內容。在傳送前修剪提示、歷史記錄、工具輸出和程式碼中浪費的 token:即時測量顯示輸入減少 31% / 輸出減少 74%。支援任何提供者,無需額外模型呼叫。同時提供 MCP 伺服器及可嵌入函式庫(Rust、Python、Ruby、Kotlin、Swift、JS/TS)。