tvm

開放式機器學習編譯器框架

tvm 是什麼?

開放式機器學習編譯器框架(Open Machine Learning Compiler Framework)

tvm 概覽

這是什麼

Apache TVM 是一個開放原始碼的機器學習編譯框架。它遵循 Python 優先開發的原則,以便快速自訂機器學習編譯器管線,並實現通用部署,將模型轉化為最小可部署模組。該專案最初是深度學習編譯的研究專案,現已發展為跨層級設計,以 TensorIR 作為張量層級表示,Relax 作為圖層級表示。

主要功能

  • Python 優先開發,可快速自訂機器學習編譯器管線。
  • 通用部署,將模型轉化為最小可部署模組。
  • 跨層級設計,包含 TensorIR(張量層級)和 Relax(圖層級)表示。
  • Python 優先的轉換,讓大部分自訂操作可在 Python 中完成。
  • 聯合最佳化計算圖、張量程式與函式庫。
  • 作為基礎設施,用於建構 Python 優先的垂直編譯器,例如針對大型語言模型(LLM)的編譯器。

使用情境

  • 編譯深度學習模型,以在各種硬體上高效部署。
  • 聯合最佳化計算圖、張量程式與函式庫,以提升效能。
  • 為特定領域(如大型語言模型)建構自訂的垂直編譯器。

快速開始

請參閱專案 README 或 TVM 文件網站,以取得安裝說明、教學與範例。建議從「Getting Started with TVM」教學開始。

授權與價格

TVM 採用 Apache-2.0 授權條款。此為開放原始碼專案,未提及價格資訊。

內容整理自該專案公開的 README 與儲存庫資訊。

將此徽章加入你的 README

Featured on YunoDB 徽章樣式與說明

你是這個專案的維護者嗎?展示它已收錄於 YunoDB。

Markdown[![Featured on YunoDB](https://yunodb.com/badge/apachetvm.svg)](https://yunodb.com/tools/apachetvm?utm_source=github&utm_medium=badge)
HTML<a href="https://yunodb.com/tools/apachetvm?utm_source=github&utm_medium=badge"><img src="https://yunodb.com/badge/apachetvm.svg" alt="Featured on YunoDB" height="20"></a>