Nemotron

Nemotron 概覽

這是什麼

NVIDIA Nemotron 是一個專為代理型 AI 打造的開放式高效多模態模型系列。此儲存庫作為開發者資產中心，提供訓練配方、使用手冊、資料集以及端到端參考範例，協助使用 Nemotron 模型進行開發。這些模型專精於程式碼撰寫、數學、科學推理、工具呼叫、指令遵循與視覺推理，可部署於邊緣裝置、單 GPU 或資料中心環境，並支援 NeMo、TensorRT-LLM、vLLM、SGLang 與 NIM 微服務。

主要功能

• 開放模型：訓練資料、技術與權重完全透明 - 運算效率：透過模型剪枝與最佳化，經由 TensorRT-LLM 提升吞吐量 - 高準確度：基於前沿開放模型，搭配符合人類推理的代理型工作流程 - 彈性部署：支援邊緣、單 GPU 或資料中心，搭配 NIM 微服務 - 模組化建構區塊（Nemotron Steps）：涵蓋訓練、評估、合成資料生成等完整生命週期 - 可重現的訓練管線：從原始資料到可部署模型的完整流程

使用情境

• 建構需要長時間執行代理與高量任務處理的代理型 AI 工作流程 - 程式碼撰寫、數學、科學推理、工具呼叫、指令遵循與視覺推理 - 部署多模態感知子代理（例如支援文字、圖片、影片、音訊的 Nemotron 3 Nano Omni） - 使用完整管線訓練、微調或了解模型的建構方式 - 建構端到端應用，如 RAG、代理與工具使用

快速開始

此儲存庫包含一個名為 nemotron-customize 的 Claude Code 外掛。安裝方式如下： text /plugin marketplace add NVIDIA/Nemotron /plugin install nemotron-customize@nvidia-nemotron 接著從儲存庫根目錄啟動 Claude Code 並呼叫技能： bash cd /path/to/Nemotron claude /nemotron-customize 一般使用方式請參閱儲存庫 README，以取得 Nemotron Steps、訓練配方與使用手冊的詳細說明。

授權與價格

本專案採用 Apache-2.0 授權，為開放原始碼。

內容整理自該專案公開的 README 與儲存庫資訊。