llm

從命令列存取大型語言模型

llm 是什麼?

從命令列存取大型語言模型,讓您能直接在終端機中與 AI 模型互動。

llm 概覽

這是什麼

LLM 是一個命令列工具與 Python 函式庫,可用於與 OpenAI、Anthropic 的 Claude、Google 的 Gemini、Qwen、Gemma、Kimi、DeepSeek、Mistral 等數十種大型語言模型互動,支援遠端 API 以及可安裝在本機執行的模型。

主要功能

  • 從命令列執行提示(prompt)
  • 將提示與回應儲存至 SQLite
  • 產生並儲存嵌入向量(embeddings)
  • 從文字與圖片中提取結構化內容
  • 賦予模型執行工具的能力
  • 使用 llm chat 啟動互動式對話
  • 安裝外掛以存取更多模型(例如透過 Ollama 使用本機模型)

使用情境

  • 對 OpenAI、Gemini、Anthropic 或本機模型執行提示
  • 使用視覺模型從圖片中提取文字
  • 使用系統提示解釋程式碼或分析檔案
  • 啟動與模型的互動式對話
  • 產生並搜尋嵌入向量以進行相似度比對
  • 使用結構描述(schema)從非結構化內容中提取結構化資料(例如 JSON)

快速開始

使用以下任一方式安裝 LLM:

pip install llm
brew install llm
pipx install llm
uv tool install llm

設定 API 金鑰並執行提示:

llm keys set openai
llm "Ten fun names for a pet pelican"

若要使用 Gemini 或 Anthropic,請安裝對應外掛並設定金鑰:

llm install llm-gemini
llm keys set gemini
llm -m gemini-3.5-flash 'Tell me fun facts about Mountain View'

啟動互動式對話:

llm chat -m gpt-4.1

授權與價格

授權條款:Apache-2.0。此專案為開放原始碼。所提供的資料中未提及任何價格資訊。

內容整理自該專案公開的 README 與儲存庫資訊。

將此徽章加入你的 README

Featured on YunoDB 徽章樣式與說明

你是這個專案的維護者嗎?展示它已收錄於 YunoDB。

Markdown[![Featured on YunoDB](https://yunodb.com/badge/simonwllm.svg)](https://yunodb.com/tools/simonwllm?utm_source=github&utm_medium=badge)
HTML<a href="https://yunodb.com/tools/simonwllm?utm_source=github&utm_medium=badge"><img src="https://yunodb.com/badge/simonwllm.svg" alt="Featured on YunoDB" height="20"></a>