ort

在 Rust 中對 ONNX 模型進行快速機器學習推論與訓練

ort 是什麼?

在 Rust 中對 ONNX 模型進行快速機器學習推論與訓練

ort 概覽

這是什麼

ort 是一個 Rust 介面,用於對 Open Neural Network Exchange (ONNX) 格式的機器學習模型進行硬體加速的推論與訓練。它基於目前已停止維護的 onnxruntime-rs crate,主要封裝了 Microsoft 的 ONNX Runtime 函式庫,同時也支援其他純 Rust 的執行環境。

主要功能

  • 對 ONNX 模型進行硬體加速的推論與訓練。
  • 封裝 Microsoft 的 ONNX Runtime,並支援其他純 Rust 的執行環境。
  • 支援多種硬體加速器。
  • 輕量級,足以在使用者裝置上執行。
  • 支援來自 PyTorch、TensorFlow、Keras、scikit-learn 和 PaddlePaddle 的模型。
  • 提供包含指南、API 參考、範例以及從 v1.x 遷移至 v2.0 的說明文件。

使用情境

ort 專為在裝置端或資料中心部署機器學習模型而設計。它被多個開源專案用於文字嵌入、檔案類型偵測、光學字元辨識 (OCR)、Transformer 推論、文字轉語音、生物多樣性保育、野生動物相機影像偵測、語意搜尋等任務。

快速開始

請參閱儲存庫的 README 以取得安裝與快速入門說明。

授權與價格

本專案採用 Apache-2.0 授權,為開源軟體。

內容整理自該專案公開的 README 與儲存庫資訊。

將此徽章加入你的 README

Featured on YunoDB 徽章樣式與說明

你是這個專案的維護者嗎?展示它已收錄於 YunoDB。

Markdown[![Featured on YunoDB](https://yunodb.com/badge/pykeioort.svg)](https://yunodb.com/tools/pykeioort?utm_source=github&utm_medium=badge)
HTML<a href="https://yunodb.com/tools/pykeioort?utm_source=github&utm_medium=badge"><img src="https://yunodb.com/badge/pykeioort.svg" alt="Featured on YunoDB" height="20"></a>