JetStream

JetStream 是針對 XLA 裝置上的 LLM 推論,最佳化吞吐量與記憶體的引擎,從 TPU 開始(未來也支援 GPU——歡迎提交 PR)。

JetStream 是什麼?

JetStream 是針對 XLA 裝置上的 LLM 推論,最佳化吞吐量與記憶體的引擎,從 TPU 開始(未來也支援 GPU——歡迎提交 PR)。

將此徽章加入你的 README

Featured on YunoDB 徽章樣式與說明

你是這個專案的維護者嗎?展示它已收錄於 YunoDB。

Markdown[![Featured on YunoDB](https://yunodb.com/badge/ai-hypercomputerjetstream.svg)](https://yunodb.com/tools/ai-hypercomputerjetstream?utm_source=github&utm_medium=badge)
HTML<a href="https://yunodb.com/tools/ai-hypercomputerjetstream?utm_source=github&utm_medium=badge"><img src="https://yunodb.com/badge/ai-hypercomputerjetstream.svg" alt="Featured on YunoDB" height="20"></a>