mlxtop
本地大型語言模型的頂級監控工具:記憶體、分頁、GPU 與 tokens/s,支援 oMLX、Ollama、llama.cpp、vLLM 等
mlxtop 是什麼?
本地大型語言模型的頂級監控工具:記憶體、分頁、GPU 與 tokens/s,支援 oMLX、Ollama、llama.cpp、vLLM 等
本地大型語言模型的頂級監控工具:記憶體、分頁、GPU 與 tokens/s,支援 oMLX、Ollama、llama.cpp、vLLM 等
本地大型語言模型的頂級監控工具:記憶體、分頁、GPU 與 tokens/s,支援 oMLX、Ollama、llama.cpp、vLLM 等