backend.ai

Backend.AI 是一款精簡、基於容器的運算叢集平台,支援多種主流運算/機器學習框架與程式語言,並提供可插拔的異質加速器支援。

backend.ai 是什麼?

Backend.AI 是一款精簡、基於容器的運算叢集平台,支援多種主流運算/機器學習框架與程式語言,並提供可插拔的異質加速器支援,包括 CUDA GPU、ROCm GPU、Gaudi NPU、Google TPU、GraphCore IPU 及其他 NPU。

backend.ai 概覽

這是什麼

Backend.AI 是一個精簡的、基於容器的運算叢集平台,託管熱門的運算/機器學習框架與多種程式語言,並支援可插拔的異質加速器,包括 CUDA GPU、ROCm GPU、Rebellions、FuriosaAI、HyperAccel、Intel Gaudi、Tenstorrent、Google TPU、Graphcore IPU 及其他 NPU。它利用名為 Sokovan 的調度器,按需或批次分配並隔離底層運算資源,以支援多租戶運算工作階段。所有功能都透過 REST 和 GraphQL API 公開。

主要功能

  • 基於容器的運算叢集,支援多租戶工作階段
  • 可插拔異質加速器支援(CUDA GPU、ROCm GPU、Intel Gaudi、Google TPU 等)
  • 透過 Sokovan 調度器提供可自訂的任務排程
  • 提供 REST 和 GraphQL API
  • 透過 Jupyter、網路終端機、SSH 和 VSCode 存取運算工作階段
  • 針對網路儲存提供虛擬資料夾(vfolder)抽象層
  • 透過應用程式代理安全存取容器內應用程式

使用情境

Backend.AI 適用於需要對異質運算資源進行多租戶存取的研發與生產環境。常見使用情境包括執行機器學習訓練任務、為資料科學團隊託管 Jupyter 筆記本、為實驗可重現性提供按需 GPU/TPU 工作階段,以及管理具有多種加速器的叢集批次任務佇列。

快速開始

開發環境快速啟動:bashgit clone https://github.com/lablup/backend.ai.gitcd backend.ai./scripts/install-dev.sh然後在單獨終端機中啟動各個元件:管理員、代理程式、儲存代理、網頁伺服器、帳戶管理員(選用)和應用程式代理(選用)。可在 http://localhost:8090 存取網頁介面。對於生產環境或多節點部署,請查閱文件,或聯絡銷售團隊([email protected])以取得專業支援與部署選項。

授權與價格

授權:LGPL-3.0。價格:開源。

內容整理自該專案公開的 README 與儲存庫資訊。

將此徽章加入你的 README

Featured on YunoDB 徽章樣式與說明

你是這個專案的維護者嗎?展示它已收錄於 YunoDB。

Markdown[![Featured on YunoDB](https://yunodb.com/badge/lablupbackendai.svg)](https://yunodb.com/tools/lablupbackendai?utm_source=github&utm_medium=badge)
HTML<a href="https://yunodb.com/tools/lablupbackendai?utm_source=github&utm_medium=badge"><img src="https://yunodb.com/badge/lablupbackendai.svg" alt="Featured on YunoDB" height="20"></a>