WilmerAI

WilmerAI 概覽

這是什麼

WilmerAI 是一個專為進階語意提示路由與複雜任務編排而設計的應用程式。它的起源來自於需要一個能理解對話完整上下文、而非僅是最新一則訊息的路由器。與僅根據單一關鍵字分類提示的簡單路由器不同，WilmerAI 的路由系統能分析整個對話歷史。這種上下文理解能力由其核心——基於節點的工作流程引擎——實現。路由本身即是一個工作流程，透過 JSON 檔案中定義的一系列步驟進行分類。選定的路由會啟動另一個專門的工作流程，該流程可進一步呼叫更多工作流程。每個節點可以編排不同的 LLM、呼叫外部工具、執行自訂腳本以及呼叫其他工作流程。對客戶端應用程式而言，這整個多步驟過程看起來就像一個標準的 API 呼叫。

主要功能

• 進階上下文路由：使用上下文感知邏輯引導使用者請求，包括對話開始時的提示路由以及基於整個對話歷史的工作流程內條件路由。
• 核心：基於節點的工作流程引擎：使用定義為 JSON 檔案的工作流程處理請求，其中包含節點序列，可實現複雜的連鎖思考過程。
• 多 LLM 與多工具編排：每個節點可連接到不同的 LLM 端點或執行工具，允許為任務的各個部分編排最佳模型。
• 模組化且可重複使用的工作流程：可為常見任務建立獨立的工作流程，並作為單一節點在較大的工作流程中執行。
• 有狀態的對話記憶：使用四部分記憶系統：時間順序摘要、滾動摘要、可搜尋的向量資料庫以及狀態文件。
• 可適應的 API 閘道：暴露與 OpenAI 和 Ollama 相容的 API 端點，無需修改即可連接現有前端應用程式。
• 隱私優先開發：以完全私密為原則設計；僅進行使用者預期且主動設定的呼叫。

使用情境

WilmerAI 可用於建立實用的聊天機器人，並擴展任何透過 REST API 連接到 LLM 的應用程式。它支援分散式 LLM，允許多台電腦在單一呼叫中協同工作。它能夠進行迭代式 LLM 呼叫以改善效能，例如在軟體開發中自動化後續提問。它還可促進不同 LLM 之間的群組聊天，並建立複雜的工作流程，例如使用者要求建立網站的使用者體驗工作流程。

快速開始

請參閱儲存庫的 README 以取得安裝與快速啟動說明。

授權與價格

WilmerAI 是開源軟體，採用 GPL-3.0 授權條款。

內容整理自該專案公開的 README 與儲存庫資訊。