openvino
OpenVINO™ 是一個用於最佳化與部署 AI 推論的開放原始碼工具組
openvino 是什麼?
OpenVINO™ 是一個用於最佳化與部署 AI 推論的開放原始碼工具組
openvino 概覽
這是什麼
OpenVINO 是一個開放原始碼的工具套件,用於最佳化與部署深度學習模型以進行 AI 推論。由 Intel 開發,採用 Apache License 2.0 授權。
主要功能
- 推論最佳化:提升電腦視覺、自動語音辨識、生成式 AI、自然語言處理(含大型與小型語言模型)及其他常見任務的深度學習效能。
- 彈性模型支援:支援以 PyTorch、TensorFlow、ONNX、Keras、PaddlePaddle 與 JAX/Flax 訓練的模型。可透過 Optimum Intel 整合 Hugging Face。無需原始框架即可轉換與部署模型。
- 廣泛平台相容性:降低資源需求,並能從邊緣到雲端等多種平台進行部署。支援 CPU(x86、ARM)、GPU(Intel 內建與獨立 GPU)及 AI 加速器(Intel NPU)。
- 社群與生態系統:活躍的社群持續貢獻於各領域的深度學習效能提升。
使用情境
OpenVINO 用於最佳化與部署 AI 推論,應用於電腦視覺、自動語音辨識、生成式 AI、自然語言處理(含大型與小型語言模型)及其他常見任務。支援從邊緣裝置到雲端伺服器的各種應用。
快速開始
使用 pip 安裝 OpenVINO:
pip install -U openvino
驗證安裝:
import openvino as ov
print(ov.__version__)
詳細教學與範例請參閱儲存庫的 README。
授權與價格
OpenVINO 採用 Apache License 2.0 授權。為開放原始碼且免費使用。
內容整理自該專案公開的 README 與儲存庫資訊。