ort
在 Rust 中對 ONNX 模型進行快速機器學習推論與訓練
ort 是什麼?
在 Rust 中對 ONNX 模型進行快速機器學習推論與訓練
ort 概覽
這是什麼
ort 是一個 Rust 介面,用於對 Open Neural Network Exchange (ONNX) 格式的機器學習模型進行硬體加速的推論與訓練。它基於目前已停止維護的 onnxruntime-rs crate,主要封裝了 Microsoft 的 ONNX Runtime 函式庫,同時也支援其他純 Rust 的執行環境。
主要功能
- 對 ONNX 模型進行硬體加速的推論與訓練。
- 封裝 Microsoft 的 ONNX Runtime,並支援其他純 Rust 的執行環境。
- 支援多種硬體加速器。
- 輕量級,足以在使用者裝置上執行。
- 支援來自 PyTorch、TensorFlow、Keras、scikit-learn 和 PaddlePaddle 的模型。
- 提供包含指南、API 參考、範例以及從 v1.x 遷移至 v2.0 的說明文件。
使用情境
ort 專為在裝置端或資料中心部署機器學習模型而設計。它被多個開源專案用於文字嵌入、檔案類型偵測、光學字元辨識 (OCR)、Transformer 推論、文字轉語音、生物多樣性保育、野生動物相機影像偵測、語意搜尋等任務。
快速開始
請參閱儲存庫的 README 以取得安裝與快速入門說明。
授權與價格
本專案採用 Apache-2.0 授權,為開源軟體。
內容整理自該專案公開的 README 與儲存庫資訊。