xllm

高效能推論引擎,適用於 LLM、VLM、DiT 與 REC 模型,並針對多種 AI 加速器最佳化。本專案由開放原子基金會(OpenAtom Foundation)主辦。

xllm 是什麼?

高效能推論引擎,適用於 LLM、VLM、DiT 與 REC 模型,並針對多種 AI 加速器最佳化。本專案由開放原子基金會(OpenAtom Foundation)主辦。