hummingbird

Hummingbird 將訓練完成的 ML 模型編譯為張量計算,以加速推論。

hummingbird 是什麼?

Hummingbird 將訓練完成的 ML 模型編譯為張量計算,以加速推論。

hummingbird 概覽

這是什麼

Hummingbird 是一個將訓練好的傳統機器學習模型編譯成張量計算的函式庫。使用者可以藉此利用 PyTorch 等神經網路框架來加速傳統機器學習模型。優點包括獲得神經網路框架目前與未來的最佳化、原生硬體加速,以及無需重新設計模型即可統一支援傳統與神經網路模型。

主要功能

  • 將訓練好的傳統機器學習模型編譯成 PyTorch、TorchScript、ONNX 與 TVM 的張量計算。
  • 支援 scikit-learn 的決策樹與隨機森林,以及 LightGBM 與 XGBoost 的分類器/回歸器。
  • 提供遵循 Sklearn API 的統一推論 API,可輕鬆替換模型。
  • 轉換為 PyTorch 與 TorchScript 後,可透過 TorchServe 提供服務。
  • 透過重新配置演算法運算子來實現向量化與 GPU 執行。

使用情境

  • 在 GPU 或 CPU 上利用神經網路框架最佳化加速傳統機器學習模型的推論。
  • 使用 TorchServe 提供傳統機器學習模型的服務。
  • 統一傳統與神經網路模型的部署平台。

快速開始

根據您的平台與硬體安裝 PyTorch(>=1.6.0),然後透過 pip 安裝 Hummingbird: python -m pip install hummingbird-ml 如需選用相依套件(lightgbm、xgboost): python -m pip install hummingbird-ml[extra] 使用範例: python import numpy as np from sklearn.ensemble import RandomForestClassifier from hummingbird.ml import convert, load X = np.random.rand(100000, 28) y = np.random.randint(2, size=100000) skl_model = RandomForestClassifier(n_estimators=10, max_depth=10) skl_model.fit(X, y) model = convert(skl_model, 'pytorch') model.predict(X) model.to('cuda') model.predict(X) model.save('hb_model') model = load('hb_model')

授權與價格

Hummingbird 是開放原始碼軟體,採用 MIT 授權條款。

內容整理自該專案公開的 README 與儲存庫資訊。

將此徽章加入你的 README

Featured on YunoDB 徽章樣式與說明

你是這個專案的維護者嗎?展示它已收錄於 YunoDB。

Markdown[![Featured on YunoDB](https://yunodb.com/badge/microsofthummingbird.svg)](https://yunodb.com/tools/microsofthummingbird?utm_source=github&utm_medium=badge)
HTML<a href="https://yunodb.com/tools/microsofthummingbird?utm_source=github&utm_medium=badge"><img src="https://yunodb.com/badge/microsofthummingbird.svg" alt="Featured on YunoDB" height="20"></a>