uccl

UCCL 是專為 GPU 設計的高效通訊函式庫,涵蓋集合通訊、點對點傳輸(如 KV 快取傳遞、強化學習權重傳遞)與專家平行(如 GPU 驅動)等應用。

uccl 是什麼?

UCCL 是專為 GPU 設計的高效通訊函式庫,支援集合通訊、點對點傳輸(例如 KV 快取傳遞、強化學習權重傳遞)以及專家平行(例如 GPU 驅動)等多種通訊模式,旨在提升分散式運算與 AI 訓練的效能。