T

TorchSpec

一個用於訓練推測解碼模型的 PyTorch 原生函式庫。專為加速大型語言模型推論而設計,支援自訂推測模型與驗證模型架構。

TorchSpec 是什麼?

一個用於訓練推測解碼模型的 PyTorch 原生函式庫。專為加速大型語言模型推論而設計,支援自訂推測模型與驗證模型架構。