efficient-transformers
此函式庫讓使用者能將 HuggingFace (HF) 中心(使用 HF transformers 函式庫開發)的預訓練模型與檢查點,無縫轉換為可在 Qualcomm Cloud AIxx(AI100、AI200 等)加速器上高效執行的推論格式。
efficient-transformers 是什麼?
此函式庫讓使用者能將 HuggingFace (HF) 中心(使用 HF transformers 函式庫開發)的預訓練模型與檢查點,無縫轉換為可在 Qualcomm Cloud AIxx(AI100、AI200 等)加速器上高效執行的推論格式。