jetson-containers

適用於 NVIDIA Jetson 與 JetPack-L4T 的機器學習容器

jetson-containers 是什麼?

適用於 NVIDIA Jetson 與 JetPack-L4T 的機器學習容器

jetson-containers 概覽

這是什麼

jetson-containers 是一個模組化容器建置系統,為 NVIDIA Jetson 與 JetPack-L4T 提供最新的 AI/ML 套件。專案託管於 GitHub(https://github.com/dusty-nv/jetson-containers),分類為 AI,授權未明確宣告(NOASSERTION),屬於開源專案。

主要功能

  • 提供 ML 框架容器:PyTorch、TensorFlow、JAX、ONNX Runtime、DeepStream、Holoscan、CTranslate2、JupyterLab - 包含 LLM 套件:SGLang、vLLM、MLC、AWQ、Transformers、text-generation-webui、text-generation-inference、Ollama、Optimum、OpenAI、GPTQModel、llama.cpp、llama-factory、ExLlama、ktransformers、FlashAttention、DeepSpeed、bitsandbytes、xformers、xgrammar - 支援 VLM:LLaVA、llama-vision、VILA、LITA、NanoLLM、Prismatic、xtuner、gemma_vlm - 提供 VIT 工具:NanoOWL、NanoSAM、Segment Anything (SAM)、Track Anything (TAM)、clip_trt - 包含 RAG 元件:llama-index、langchain、jetson-copilot、NanoDB、FAISS、RAFT - 涵蓋機器人學:ROS、LeRobot、OpenVLA、3D Diffusion Policy、Crossformer、MimicGen、OpenDroneMap、ZED、openpi

使用情境

  • 在 NVIDIA Jetson 裝置上執行機器學習推論與訓練 - 在邊緣硬體上部署大型語言模型(LLM)與視覺語言模型(VLM) - 建置結合模擬與實際部署的機器人應用 - 使用 VIT 與圖形工具開發電腦視覺流程 - 在 Jetson 上建立檢索增強生成(RAG)系統

快速開始

請參閱儲存庫 README 以取得安裝與快速開始說明。

授權與價格

授權未明確宣告(NOASSERTION)。此專案為開源。

內容整理自該專案公開的 README 與儲存庫資訊。

將此徽章加入你的 README

Featured on YunoDB 徽章樣式與說明

你是這個專案的維護者嗎?展示它已收錄於 YunoDB。

Markdown[![Featured on YunoDB](https://yunodb.com/badge/dusty-nvjetson-containers.svg)](https://yunodb.com/tools/dusty-nvjetson-containers?utm_source=github&utm_medium=badge)
HTML<a href="https://yunodb.com/tools/dusty-nvjetson-containers?utm_source=github&utm_medium=badge"><img src="https://yunodb.com/badge/dusty-nvjetson-containers.svg" alt="Featured on YunoDB" height="20"></a>