promptulate

🚀輕量級大型語言模型自動化與自主語言代理開發框架。以 Python 風格建構您的 LLM 代理應用程式!

promptulate 是什麼?

🚀輕量級大型語言模型自動化與自主語言代理開發框架。以 Python 風格建構您的 LLM 代理應用程式!

promptulate 概覽

這是什麼

Promptulate 是由 Cogit Lab 開發的 AI Agent 應用程式開發框架。它提供 Pythonic 的開發模式來建構 Agent 應用程式。該框架旨在透過整合各種開源框架的亮點,降低入門門檻並統一開發者共識。使用 Promptulate,使用者可以用簡潔的程式碼操作 LLM、Agent、Tool 和 RAG 等元件。

主要功能

  • Pythonic 程式碼風格:提供 Pythonic 的 SDK 呼叫方式;大多數任務只需一個 pne.chat 函數即可完成。
  • 模型相容性:支援市面上幾乎所有類型的大型模型,包括 OpenAI、Azure、AWS、Google、Mistral、Anthropic、Hugging Face、Ollama 等。
  • 多樣化的 Agent:提供 WebAgent、ToolAgent、CodeAgent 等,能夠規劃、推理和行動。
  • 低成本整合:輕鬆整合 LangChain 等框架的工具。
  • 函數即工具:任何 Python 函數都可以直接轉換為 Agent 可用的工具。
  • 生命週期與鉤子:為 Agent、Tool 和 LLM 提供鉤子和完整的生命週期管理。
  • 終端機整合:內建客戶端支援,可快速除錯提示詞。
  • 提示詞快取:提供 LLM 提示詞的快取機制,減少重複工作。
  • 強大的 OpenAI 包裝器:pne.chat 可取代 OpenAI SDK,並提供增強功能。
  • Streamlit 元件整合:提供現成範例和可重複使用的 Streamlit 元件。

使用情境

  • 建構 Streamlit 聊天機器人。
  • 建構 Gradio 聊天機器人。
  • 使用 Agent 建構數學應用程式。
  • 使用 Streamlit 和 pne 建構知識圖譜。
  • 建構能與 GitHub 儲存庫對話的聊天機器人。
  • 使用 ROS2 和 Promptulate 建立多模態機器人 Agent 框架。
  • 使用 pne 在遊樂場中比較不同模型。
  • 使用基於 Promptulate 的 gcop 作為 Git AI 副駕駛。

快速開始

透過 pip 安裝框架: shell script pip install -U pne 注意:Python 版本需為 3.8 或更高。 安裝後,您可以使用 pne.chat() 像 OpenAI 一樣進行對話: python import promptulate as pne messages = [ {“role”: “system”, “content”: “You are a helpful assistant.”}, {“role”: “user”, “content”: “Who are you?”}, ] response: str = pne.chat(messages=messages, model=”gpt-4-turbo”) print(response)

授權與價格

授權為 Apache-2.0。此專案為開源(pricing_type: open_source)。

內容整理自該專案公開的 README 與儲存庫資訊。

將此徽章加入你的 README

Featured on YunoDB 徽章樣式與說明

你是這個專案的維護者嗎?展示它已收錄於 YunoDB。

Markdown[![Featured on YunoDB](https://yunodb.com/badge/undertone0809promptulate.svg)](https://yunodb.com/tools/undertone0809promptulate?utm_source=github&utm_medium=badge)
HTML<a href="https://yunodb.com/tools/undertone0809promptulate?utm_source=github&utm_medium=badge"><img src="https://yunodb.com/badge/undertone0809promptulate.svg" alt="Featured on YunoDB" height="20"></a>