hummingbird
hummingbird 是一個輕量級、零依賴的執行環境,專為大型開源混合專家(MoE)語言模型而設計。它將 SSD、RAM 和 VRAM 整合為單一智慧型記憶體階層,讓 GPT-OSS 120B、GLM、DeepSeek、Qwen 等模型能在消費級硬體上進行推論。
hummingbird 是什麼?
hummingbird 是一個輕量級、零依賴的執行環境,專為大型開源混合專家(MoE)語言模型而設計。它將 SSD、RAM 和 VRAM 整合為單一智慧型記憶體階層,讓 GPT-OSS 120B、GLM、DeepSeek、Qwen 等模型能在消費級硬體上進行推論。