memra

memra 是一個專為 NVIDIA RTX PRO 6000 Blackwell 和 RTX 5090 打造的 Rust + CUDA 推論引擎。它透過 OpenAI 相容 API 提供 GGUF 模型服務,且每個預設值皆以這兩張顯示卡為基準進行測量——兩者皆為 Blackwell sm_120a,並另設有獨立編譯閘

memra 是什麼?

memra 是一個專為 NVIDIA RTX PRO 6000 Blackwell 和 RTX 5090 打造的 Rust + CUDA 推論引擎。它透過 OpenAI 相容 API 提供 GGUF 模型服務,且每個預設值皆以這兩張顯示卡為基準進行測量——兩者皆為 Blackwell sm_120a,並另設有獨立編譯閘控的 Hopper/H100 (sm_90a) 通道。

將此徽章加入你的 README

Featured on YunoDB 徽章樣式與說明

你是這個專案的維護者嗎?展示它已收錄於 YunoDB。

Markdown[![Featured on YunoDB](https://yunodb.com/badge/avifeneshmemra.svg)](https://yunodb.com/tools/avifeneshmemra?utm_source=github&utm_medium=badge)
HTML<a href="https://yunodb.com/tools/avifeneshmemra?utm_source=github&utm_medium=badge"><img src="https://yunodb.com/badge/avifeneshmemra.svg" alt="Featured on YunoDB" height="20"></a>