PocketLLM

消費級 GPU 上的大型語言模型推論引擎,專為較舊硬體深度最佳化

PocketLLM 是什麼?

PocketLLM 推論引擎 - 專為消費級 GPU 上的大型語言模型設計,並針對較舊硬體進行深度最佳化