llm
從命令列存取大型語言模型
llm 是什麼?
從命令列存取大型語言模型,讓您能直接在終端機中與 AI 模型互動。
llm 概覽
這是什麼
LLM 是一個命令列工具與 Python 函式庫,可用於與 OpenAI、Anthropic 的 Claude、Google 的 Gemini、Qwen、Gemma、Kimi、DeepSeek、Mistral 等數十種大型語言模型互動,支援遠端 API 以及可安裝在本機執行的模型。
主要功能
- 從命令列執行提示(prompt)
- 將提示與回應儲存至 SQLite
- 產生並儲存嵌入向量(embeddings)
- 從文字與圖片中提取結構化內容
- 賦予模型執行工具的能力
- 使用
llm chat啟動互動式對話 - 安裝外掛以存取更多模型(例如透過 Ollama 使用本機模型)
使用情境
- 對 OpenAI、Gemini、Anthropic 或本機模型執行提示
- 使用視覺模型從圖片中提取文字
- 使用系統提示解釋程式碼或分析檔案
- 啟動與模型的互動式對話
- 產生並搜尋嵌入向量以進行相似度比對
- 使用結構描述(schema)從非結構化內容中提取結構化資料(例如 JSON)
快速開始
使用以下任一方式安裝 LLM:
pip install llm
brew install llm
pipx install llm
uv tool install llm
設定 API 金鑰並執行提示:
llm keys set openai
llm "Ten fun names for a pet pelican"
若要使用 Gemini 或 Anthropic,請安裝對應外掛並設定金鑰:
llm install llm-gemini
llm keys set gemini
llm -m gemini-3.5-flash 'Tell me fun facts about Mountain View'
啟動互動式對話:
llm chat -m gpt-4.1
授權與價格
授權條款:Apache-2.0。此專案為開放原始碼。所提供的資料中未提及任何價格資訊。
內容整理自該專案公開的 README 與儲存庫資訊。