tvm
開放式機器學習編譯器框架
tvm 是什麼?
開放式機器學習編譯器框架(Open Machine Learning Compiler Framework)
tvm 概覽
這是什麼
Apache TVM 是一個開放原始碼的機器學習編譯框架。它遵循 Python 優先開發的原則,以便快速自訂機器學習編譯器管線,並實現通用部署,將模型轉化為最小可部署模組。該專案最初是深度學習編譯的研究專案,現已發展為跨層級設計,以 TensorIR 作為張量層級表示,Relax 作為圖層級表示。
主要功能
- Python 優先開發,可快速自訂機器學習編譯器管線。
- 通用部署,將模型轉化為最小可部署模組。
- 跨層級設計,包含 TensorIR(張量層級)和 Relax(圖層級)表示。
- Python 優先的轉換,讓大部分自訂操作可在 Python 中完成。
- 聯合最佳化計算圖、張量程式與函式庫。
- 作為基礎設施,用於建構 Python 優先的垂直編譯器,例如針對大型語言模型(LLM)的編譯器。
使用情境
- 編譯深度學習模型,以在各種硬體上高效部署。
- 聯合最佳化計算圖、張量程式與函式庫,以提升效能。
- 為特定領域(如大型語言模型)建構自訂的垂直編譯器。
快速開始
請參閱專案 README 或 TVM 文件網站,以取得安裝說明、教學與範例。建議從「Getting Started with TVM」教學開始。
授權與價格
TVM 採用 Apache-2.0 授權條款。此為開放原始碼專案,未提及價格資訊。
內容整理自該專案公開的 README 與儲存庫資訊。