turbovec

以 TurboQuant 為基礎的向量索引,以 Rust 編寫並提供 Python 繫結

turbovec 是什麼?

以 TurboQuant 為基礎的向量索引,以 Rust 編寫並提供 Python 繫結

turbovec 概覽

這是什麼

turbovec 是一個用於 Python 和 Rust 的進程序內向量索引。它使用 Google Research 的 TurboQuant 將每個向量以每個維度 2 或 4 位元儲存,並直接以代理最佳化的 SIMD 核心搜尋壓縮後的形式。根據 README,一千萬個 768 維的嵌入向量在 float32 下佔用 31 GB 記憶體,但 turbovec 僅需 4 GB,且搜尋速度比 FAISS 快 4.4 倍,同時保持相同的召回率。

主要功能

  • 快速:在 4 位元下比 FAISS FastScan 快 4.4 倍,在 2 位元下快 2.2 倍,支援 ARM 和 x86。分階段搜尋會掃描一個位元平面,然後精確重新評分候選清單。
  • 低記憶體:在 4 位元下比 float32 小 7.8 倍,在 2 位元下小 15.5 倍,且召回率與 FAISS 相同。
  • 線上:無需訓練步驟或重建;碼書來自數學而非你的資料。加入一個向量即可搜尋;移除一個向量只需微秒。
  • 增量:sync(path) 僅寫入自上次呼叫以來變更的內容——一次 fsync,任何位元組皆崩潰安全,無論索引多大都只需毫秒。
  • 本地:是一個函式庫而非服務;沒有任何資料離開你的程序。可搭配開源嵌入模型實現完全離線的堆疊。
  • 過濾:傳入 ID 的允許清單或位元遮罩;核心會跳過過濾器排除的項目,並從允許的集合中回傳最多 k 個結果。

使用情境

turbovec 適用於需要快速近似最近鄰搜尋、低記憶體佔用、線上更新、增量持久化和本地處理的應用。它用於 Python 和 Rust 專案,並可整合 LangChain、LlamaIndex、Haystack 和 Agno 等框架,用於檢索增強生成(RAG)管線。不適用於基於圖的索引、精確浮點結果、伺服器部署,或維度不是 8 的倍數或超過 16,384 的向量。

快速開始

pip install turbovec

Rust 版本:

cargo add turbovec

詳細使用範例請參閱儲存庫的 README。

授權與價格

本專案採用 MIT 授權條款,為開放原始碼(免費)。

內容整理自該專案公開的 README 與儲存庫資訊。

將此徽章加入你的 README

Featured on YunoDB 徽章樣式與說明

你是這個專案的維護者嗎?展示它已收錄於 YunoDB。

Markdown[![Featured on YunoDB](https://yunodb.com/badge/ryancodraiturbovec.svg)](https://yunodb.com/tools/ryancodraiturbovec?utm_source=github&utm_medium=badge)
HTML<a href="https://yunodb.com/tools/ryancodraiturbovec?utm_source=github&utm_medium=badge"><img src="https://yunodb.com/badge/ryancodraiturbovec.svg" alt="Featured on YunoDB" height="20"></a>