Promptify
提示工程 | 提示版本管理 | 使用GPT或其他基於提示的模型來獲取結構化輸出。加入我們的Discord以獲取提示工程、LLM和其他
Promptify 是什麼?
提示工程 | 提示版本管理 | 使用GPT或其他基於提示的模型來獲取結構化輸出。加入我們的Discord以獲取提示工程、LLM和其他最新研究
Promptify 概覽
這是什麼
Promptify 是一個基於任務的自然語言處理引擎,提供 Pydantic 結構化輸出、內建評估功能,並使用 LiteLLM 作為通用 LLM 後端。它被描述為「LLM 驅動 NLP 的 scikit-learn」,託管於 GitHub 上的 PromptsLab 組織。此專案採用 Apache-2.0 授權,為開源軟體。
主要功能
- 任何 NLP 任務只需 2-3 行程式碼,無需訓練資料 - Pydantic 結構化輸出,確保型別安全的結果 - 透過 LiteLLM 支援任何 LLM 提供者(OpenAI、Anthropic、Google、Ollama、Azure 等 100 多種) - 內建任務:NER、分類(二元/多類別/多標籤)、問答、摘要、關係抽取、SQL 生成等 - 自訂任務:使用任何 Pydantic 結構描述 - 支援少樣本範例與領域特化(例如
domain='medical') - 批次處理(非同步並行)與原生非同步支援(acall()) - 評估框架:精確率、召回率、F1、準確率、完全比對、ROUGE 指標 - 安全解析器:對不支援原生結構化輸出的提供者提供備用 JSON 補全 - 成本追蹤:透過get_cost_summary()監控 token 使用量與費用
使用情境
Promptify 可用於從醫療文本中提取命名實體、分類客戶評論、根據提供的上下文回答問題、使用自訂 Pydantic 結構描述從任何文本生成結構化輸出,以及同時處理多個文本。適合需要將 LLM 驅動的 NLP 任務整合到 Python 應用程式的開發人員和研究人員,無需訓練自訂模型。
快速開始
需要 Python 3.9+。使用 pip 安裝: bash pip install promptify 或從儲存庫安裝: bash pip install git+https://github.com/promptslab/Promptify.git 如需評估指標支援: bash pip install promptify[eval]
授權與價格
此專案採用 Apache-2.0 授權,為開源軟體。未提及價格資訊。
內容整理自該專案公開的 README 與儲存庫資訊。