leanctx

可直接整合的提示壓縮功能，適用於生產環境的LLM應用。無需修改程式碼，即可將Token費用降低40-60%。支援LLMLingua-2，採用Python SDK，提供MIT授權。

leanctx 是什麼？

可直接整合的提示壓縮功能，適用於生產環境的LLM應用。無需修改程式碼，即可將Token費用降低40-60%。支援LLMLingua-2，採用Python SDK，提供MIT授權。