mlrun

mlrun 概覽

這是什麼

MLRun 是一個開源 AI 編排平台，用於快速建置與管理持續性（生成式）AI 應用程式的完整生命週期。它整合至開發與 CI/CD 環境，並自動化生產資料、ML 管線與線上應用程式的交付。該平台旨在減少工程負擔、縮短上市時間並降低運算資源消耗。它支援在本機或雲端選擇任何 IDE，並打破資料、ML、軟體與 DevOps/MLOps 團隊之間的孤島，促進協作與快速持續改進。

主要功能

• 資料管理：支援批次或即時大規模資料處理、資料血緣與版本控制、結構化與非結構化資料。
• 開發：自動化 ML 管線，涵蓋資料收集、前處理、訓練與模型評估。
• 部署：將訓練好的模型產品化為無伺服器函式，使用即時自動擴展的 Nuclio 無伺服器函式。
• 即時營運：監控資源、資料、模型與應用程式指標；識別風險、控制成本並衡量業務 KPI。
• 開放架構：支援多種資料儲存、開發工具、服務與平台，詳見官方生態系統文件。

使用情境

• 建置與管理持續性 AI 應用程式，包括生成式 AI 任務。
• 使用 LLM 處理非結構化資料、運用向量資料庫，並對資料管理套用防護措施。
• 開發 RAG 工作流程、評估與微調 LLM。
• 將 LLM 部署為無伺服器函式，搭配即時服務圖與 GPU 使用。
• 在生產環境中監控模型效能，並實現治理與可解釋性。

快速開始

請參閱儲存庫 README 以取得教學、範例與用戶端環境設定說明。

授權與價格

此專案採用 Apache-2.0 授權，為開源軟體。提供的後設資料中未說明價格。

內容整理自該專案公開的 README 與儲存庫資訊。