nvitop
一個互動式的 NVIDIA-GPU 程序檢視器及更多功能,GPU 程序管理的一站式解決方案。
nvitop 是什麼?
一個互動式的 NVIDIA-GPU 程序檢視器及更多功能,GPU 程序管理的一站式解決方案。
nvitop 概覽
這是什麼
nvitop 是一個互動式的 NVIDIA GPU 程序檢視器與資源監控工具。它提供色彩豐富且資訊詳盡的介面,持續更新裝置與程序的狀態。該工具被設計為 GPU 程序管理的一站式解決方案,同時提供監控模式與可整合至其他應用程式的 API。
主要功能
- 資訊豐富且美觀的輸出:使用彩色方框繪圖,顯示比 nvidia-smi 更多的資訊。
- 監控模式:包含長條圖、歷史圖表、程序排序、過濾、信號發送、樹狀檢視、環境變數畫面、說明畫面及滑鼠支援。
- 高效率:直接使用 NVML Python 綁定,支援稀疏查詢並搭配 TTL 快取,使用 curses 函式庫,並透過多執行緒非同步收集資訊。
- 可攜帶性:支援 Linux 與 Windows,使用 psutil 取得主機程序資訊,以純 Python 撰寫。
- 可整合性:提供裝置、程序與主機指標的低階 API,並附有 CUDA 裝置選擇工具 nvisel。
使用情境
- 在終端機中即時監控 NVIDIA GPU 裝置與程序。
- 管理 GPU 程序:過濾、排序、發送信號、檢視環境變數。
- 深度學習研究人員透過 nvisel 工具選擇 CUDA 可見裝置。
- 使用提供的 Python API 建立自訂監控工具。
快速開始
pip3 install --upgrade nvitop
安裝後,執行 nvitop 或 python3 -m nvitop 啟動互動式監控。若要一次性查詢狀態,請使用 nvitop -1。
授權與價格
本專案為開放原始碼,採用 Apache-2.0 授權。
內容整理自該專案公開的 README 與儲存庫資訊。