rocketride-server
高效能 AI 管線引擎,具備 C++ 核心與 50+ 個可擴充的 Python 節點。從 IDE 建置、除錯及擴充 LLM 工作流程,支援 13+ 模型提供者、8+ 向量資料庫與代理協調。
rocketride-server 是什麼?
高效能 AI 管線引擎,具備 C++ 核心與 50+ 個可擴充的 Python 節點。從 IDE 建置、除錯及擴充 LLM 工作流程,支援 13+ 模型提供者、8+ 向量資料庫與代理協調。內含 VS Code 擴充功能、TypeScript/Python SDK,以及 Docker 部署。
rocketride-server 概覽
這是什麼
RocketRide 是一個開源的 AI 開發環境及管線引擎,結合 C++ 核心與可透過 Python 擴充的節點。它讓使用者能在 IDE 或命令列中,利用多種模型供應商與向量資料庫來建置、除錯並擴展 AI 工作流程。管線以可攜式 JSON 定義,可視覺化建置,並由多執行緒 C++ 執行環境執行。本專案採用 MIT 授權,且符合 OSI 標準。
主要功能
- 視覺化管線建置器:在 VS Code 中拖曳、連接與設定節點,即時監控 token 用量、LLM 呼叫、延遲與執行狀態。管線為可攜式 JSON 格式。
- 高效能 C++ 執行環境:原生多執行緒設計,專為 AI 與資料工作負載的高吞吐量需求打造。
- 100+ 管線節點:包含 15+ 個 LLM 供應商、9 種向量資料庫、OCR、NER、PII 匿名化、分段策略與嵌入模型。所有節點均可透過 Python 擴充。
- 多重代理人工作流程:內建 CrewAI 與 LangChain 支援,可串聯代理人並在管線執行間共享記憶體。
- 支援程式碼代理人:自動偵測 Claude、Cursor 等程式碼代理人。
- TypeScript、Python 與 MCP SDK:將管線整合至原生應用程式,或作為 AI 助理的可呼叫工具。
- 無依賴問題:Python 環境、C++ 工具鏈與其他依賴項目皆自動管理。
- 一鍵部署:可在 Docker、本地端或 RocketRide Cloud 上執行。
使用情境
RocketRide 可用於即時資料處理、多模態 AI 搜尋、文件處理(例如從 PDF 或圖片中提取文字)、RAG 管線,以及多步驟代理人推理。適合建置 AI 功能、組合含 LLM 的管線、整合向量資料庫,以及部署可上線的 AI 執行環境。
快速開始
- 從 IDE 的擴充市集安裝 RocketRide 擴充功能。2. 在 IDE 中點擊 RocketRide 擴充功能。3. 選擇伺服器部署選項:本地端(建議)、自建環境(Docker 或從原始碼建置),或 RocketRide Cloud。 使用 Python SDK 的快速程式碼範例:
bash pip install rocketridepython import asyncio from rocketride import RocketRideClient async def main(): async with RocketRideClient() as client: run = await client.use(filepath='examples/document-processor.pipe') out = await client.send( run['token'], 'Alice Smith, 12 Elm St, Springfield.', objinfo={'name': 'note.txt'}, mimetype='text/plain' ) print(out) await client.terminate(run['token']) asyncio.run(main())TypeScript 請使用npm install rocketride。完整詳細資訊請參閱專案的 README。
授權與價格
本專案採用 MIT 授權條款。沒有企業版或付費功能,整個引擎皆為 MIT 授權且符合 OSI 標準。
內容整理自該專案公開的 README 與儲存庫資訊。