llm-workflow-engine
強大的命令列與工作流程管理器,專為大型語言模型設計(核心套件)
llm-workflow-engine 是什麼?
強大的命令列與工作流程管理器,專為大型語言模型設計(核心套件)
llm-workflow-engine 概覽
這是什麼
LLM Workflow Engine (LWE) 是一個針對大型語言模型的命令列介面與工作流程管理工具。這是該專案的核心套件,託管於 GitHub,採用 MIT 授權。
主要功能
- 從命令列使用 ChatGPT/GPT4
- 在終端機中執行,可直接呼叫並與 ChatGPT/GPT4 互動
- 支援官方 ChatGPT API,直接向 OpenAI ChatGPT 端點發送 API 請求(可使用 OpenAI 帳戶支援的所有模型)
- 簡單的插件架構,可擴充 LWE 的自訂功能
- 透過提供者插件支援多種 LLM 提供者(GPT-3、Cohere、Huggingface 等)
- 透過 Ansible Playbook 將 LLM 呼叫整合到較大的工作流程中
- 支援工具使用(限支援的提供者)
- 提供 Docker 映像檔(實驗性)
- Python API,可在 Python 腳本中使用 ChatGPT/GPT4
使用情境
LWE 適合開發者與進階使用者,他們希望從終端機與 LLM 互動、透過串聯 LLM 呼叫來自動化多步驟任務,或透過插件擴充功能。可用於腳本編寫、測試提示詞,以及將 LLM 能力整合到更大的自動化流程中。
快速開始
請參閱儲存庫的 README 以取得安裝與快速開始說明。
授權與價格
本專案採用 MIT 授權。為開源且免費使用。
內容整理自該專案公開的 README 與儲存庫資訊。