phyai
PhyAI 是一個高效能的框架,用於運行實體 AI 模型(VLA、WAM 等),支援雲端服務與裝置端部署。
phyai 是什麼?
PhyAI 是一個高效能的框架,用於運行實體 AI 模型(VLA、WAM 等),支援雲端服務與裝置端部署。
phyai 概覽
這是什麼
PhyAI 是一個以延遲優先的 Physical AI 服務引擎,專為延遲敏感的任務設計,例如在互動系統中運行的策略與動作模型。該框架同時支援雲端部署與裝置端部署,可在 NVIDIA Jetson 邊緣裝置上執行,也能擴展至 GPU 叢集。
主要功能
- 可在 NVIDIA Jetson 邊緣裝置上執行 - 透過 DP、TP 與 CFG 平行化擴展至 GPU 叢集 - 使用 FlashInfer 與 Humming 的高效能核心 - 支援透過核心策略進行 INT4、INT8、FP8、MXFP4 與 NVFP4 量化(PR 審查中)
使用情境
PhyAI 適用於執行 Physical AI 模型,包括視覺-語言-動作(VLA)模型、全身動作模型(WAM)與基礎模型。它特別適合延遲敏感的互動系統,例如機器人策略與動作推論。該引擎支援單主機與多主機服務,可部署於邊緣裝置或 GPU 叢集。
快速開始
從原始碼安裝: bash git clone https://github.com/mingti-org/phyai cd phyai uv sync 夜間建置: bash uv pip install phyai phyai-ext --extra-index-url https://mingti-org.github.io/phyai/simple/ --prerelease=allow 詳細安裝說明請參閱 PhyAI 安裝指南。
授權與價格
PhyAI 採用 MIT 授權條款釋出,為開放原始碼,未提及價格資訊。
內容整理自該專案公開的 README 與儲存庫資訊。