nvitop

一個互動式的 NVIDIA-GPU 程序檢視器及更多功能,GPU 程序管理的一站式解決方案。

nvitop 是什麼?

一個互動式的 NVIDIA-GPU 程序檢視器及更多功能,GPU 程序管理的一站式解決方案。

nvitop 概覽

這是什麼

nvitop 是一個互動式的 NVIDIA GPU 程序檢視器與資源監控工具。它提供色彩豐富且資訊詳盡的介面,持續更新裝置與程序的狀態。該工具被設計為 GPU 程序管理的一站式解決方案,同時提供監控模式與可整合至其他應用程式的 API。

主要功能

  • 資訊豐富且美觀的輸出:使用彩色方框繪圖,顯示比 nvidia-smi 更多的資訊。
  • 監控模式:包含長條圖、歷史圖表、程序排序、過濾、信號發送、樹狀檢視、環境變數畫面、說明畫面及滑鼠支援。
  • 高效率:直接使用 NVML Python 綁定,支援稀疏查詢並搭配 TTL 快取,使用 curses 函式庫,並透過多執行緒非同步收集資訊。
  • 可攜帶性:支援 Linux 與 Windows,使用 psutil 取得主機程序資訊,以純 Python 撰寫。
  • 可整合性:提供裝置、程序與主機指標的低階 API,並附有 CUDA 裝置選擇工具 nvisel。

使用情境

  • 在終端機中即時監控 NVIDIA GPU 裝置與程序。
  • 管理 GPU 程序:過濾、排序、發送信號、檢視環境變數。
  • 深度學習研究人員透過 nvisel 工具選擇 CUDA 可見裝置。
  • 使用提供的 Python API 建立自訂監控工具。

快速開始

pip3 install --upgrade nvitop

安裝後,執行 nvitop 或 python3 -m nvitop 啟動互動式監控。若要一次性查詢狀態,請使用 nvitop -1。

授權與價格

本專案為開放原始碼,採用 Apache-2.0 授權。

內容整理自該專案公開的 README 與儲存庫資訊。

將此徽章加入你的 README

Featured on YunoDB 徽章樣式與說明

你是這個專案的維護者嗎?展示它已收錄於 YunoDB。

Markdown[![Featured on YunoDB](https://yunodb.com/badge/xuehaipannvitop.svg)](https://yunodb.com/tools/xuehaipannvitop?utm_source=github&utm_medium=badge)
HTML<a href="https://yunodb.com/tools/xuehaipannvitop?utm_source=github&utm_medium=badge"><img src="https://yunodb.com/badge/xuehaipannvitop.svg" alt="Featured on YunoDB" height="20"></a>