modular
Modular 平台(包含 MAX 與 Mojo)
modular 是什麼?
Modular 平台(包含 MAX 與 Mojo)是一個專為 AI 開發打造的整合式軟體環境,提供高效能運算與簡化開發流程的工具。
modular 概覽
這是什麼
Modular Platform 是一個統一的 AI 開發與部署平台,包含 MAX Framework 和 Mojo Language。此儲存庫託管該平台的開源元件。目前已開源的元件包括 Mojo 編譯器、Mojo 標準函式庫、MAX GPU 程式設計抽象層、MAX 加速器函式庫、MAX 圖形編譯器、MAX 執行環境、MAX 驅動程式、MAX AI 框架、MAX 模型管線、MAX 推論伺服器以及程式碼範例。
主要功能
- 統一的 AI 開發與部署平台。
- 包含用於 Python 模型開發的 MAX Framework 以及高效能運算的 Mojo Language。
- 開源元件涵蓋 Mojo 編譯器、標準函式庫、GPU 程式設計、計算核心、圖形編譯器、執行環境、驅動程式、AI 框架、模型管線與推論伺服器。
- MAX 推論伺服器提供 OpenAI 相容的端點。
- 支援執行 Mojo 檔案以及使用 MAX 管線以模型生成文字。
使用情境
- 使用 MAX 和 Mojo 進行 AI 開發與部署。
- 實驗 Mojo 語言功能與標準函式庫。
- 使用 MAX 框架以 Python 建置與執行 AI 模型。
- 透過 MAX 推論伺服器部署模型,提供 OpenAI 相容 API。
- 使用 MAX GPU 程式設計抽象層進行 GPU 加速運算。
快速開始
請參考 MAX 快速入門指南與 Mojo 快速入門指南。若要從儲存庫進行實驗:bash./bazelw run //Mojo:mojo -- Mojo/examples/hello.mojo``````bash./bazelw run //max/python/max/_entrypoints:pipelines -- generate --model Qwen/Qwen3.5-0.8B --max-batch-size 1 --max-length 10000 --prompt 'The sky is blue because'
授權與價格
Mojo 及其貢獻採用 Apache License v2.0 with LLVM Exceptions 授權。MAX 原始碼及其二進位發行版的部分採用 MAX_LICENSE 授權,其餘部分採用 Apache License v2.0 with LLVM Exceptions。第三方授權需由使用者自行檢查。此平台為開源軟體。
內容整理自該專案公開的 README 與儲存庫資訊。