promptulate
🚀輕量級大型語言模型自動化與自主語言代理開發框架。以 Python 風格建構您的 LLM 代理應用程式!
promptulate 是什麼?
🚀輕量級大型語言模型自動化與自主語言代理開發框架。以 Python 風格建構您的 LLM 代理應用程式!
promptulate 概覽
這是什麼
Promptulate 是由 Cogit Lab 開發的 AI Agent 應用程式開發框架。它提供 Pythonic 的開發模式來建構 Agent 應用程式。該框架旨在透過整合各種開源框架的亮點,降低入門門檻並統一開發者共識。使用 Promptulate,使用者可以用簡潔的程式碼操作 LLM、Agent、Tool 和 RAG 等元件。
主要功能
- Pythonic 程式碼風格:提供 Pythonic 的 SDK 呼叫方式;大多數任務只需一個
pne.chat函數即可完成。 - 模型相容性:支援市面上幾乎所有類型的大型模型,包括 OpenAI、Azure、AWS、Google、Mistral、Anthropic、Hugging Face、Ollama 等。
- 多樣化的 Agent:提供 WebAgent、ToolAgent、CodeAgent 等,能夠規劃、推理和行動。
- 低成本整合:輕鬆整合 LangChain 等框架的工具。
- 函數即工具:任何 Python 函數都可以直接轉換為 Agent 可用的工具。
- 生命週期與鉤子:為 Agent、Tool 和 LLM 提供鉤子和完整的生命週期管理。
- 終端機整合:內建客戶端支援,可快速除錯提示詞。
- 提示詞快取:提供 LLM 提示詞的快取機制,減少重複工作。
- 強大的 OpenAI 包裝器:
pne.chat可取代 OpenAI SDK,並提供增強功能。 - Streamlit 元件整合:提供現成範例和可重複使用的 Streamlit 元件。
使用情境
- 建構 Streamlit 聊天機器人。
- 建構 Gradio 聊天機器人。
- 使用 Agent 建構數學應用程式。
- 使用 Streamlit 和 pne 建構知識圖譜。
- 建構能與 GitHub 儲存庫對話的聊天機器人。
- 使用 ROS2 和 Promptulate 建立多模態機器人 Agent 框架。
- 使用 pne 在遊樂場中比較不同模型。
- 使用基於 Promptulate 的 gcop 作為 Git AI 副駕駛。
快速開始
透過 pip 安裝框架: shell script pip install -U pne 注意:Python 版本需為 3.8 或更高。 安裝後,您可以使用 pne.chat() 像 OpenAI 一樣進行對話: python import promptulate as pne messages = [ {“role”: “system”, “content”: “You are a helpful assistant.”}, {“role”: “user”, “content”: “Who are you?”}, ] response: str = pne.chat(messages=messages, model=”gpt-4-turbo”) print(response)
授權與價格
授權為 Apache-2.0。此專案為開源(pricing_type: open_source)。
內容整理自該專案公開的 README 與儲存庫資訊。