JetStream
JetStream 是針對 XLA 裝置上的 LLM 推論,最佳化吞吐量與記憶體的引擎,從 TPU 開始(未來也支援 GPU——歡迎提交 PR)。
JetStream 是什麼?
JetStream 是針對 XLA 裝置上的 LLM 推論,最佳化吞吐量與記憶體的引擎,從 TPU 開始(未來也支援 GPU——歡迎提交 PR)。
JetStream 是針對 XLA 裝置上的 LLM 推論,最佳化吞吐量與記憶體的引擎,從 TPU 開始(未來也支援 GPU——歡迎提交 PR)。
JetStream 是針對 XLA 裝置上的 LLM 推論,最佳化吞吐量與記憶體的引擎,從 TPU 開始(未來也支援 GPU——歡迎提交 PR)。