Sidekick
一個原生 macOS 應用程式,讓使用者能與本地 LLM 對話,該 LLM 能從您 Mac 上的檔案、資料夾和網站中擷取資訊並回應,無需安裝
Sidekick 是什麼?
一個原生 macOS 應用程式,讓使用者能與本地 LLM 對話,該 LLM 能從您 Mac 上的檔案、資料夾和網站中擷取資訊並回應,無需安裝任何其他軟體。採用 llama.cpp 技術。
Sidekick 概覽
這是什麼
Sidekick 是一款原生 macOS 應用程式,讓使用者能與本機大型語言模型(LLM)對話,該模型可回應來自 Mac 上檔案、資料夾和網站的資訊,無需安裝任何其他軟體。所有對話都在離線狀態下進行,資料保持安全。Sidekick 是一個在地優先的應用程式,內建本機模型的推理引擎,同時也支援 OpenAI 相容 API 以提供更多模型選項。它由 llama.cpp 驅動。
主要功能
- 資源使用:Sidekick 透過可設定的專家(experts)存取檔案、資料夾和網站,使用 RAG(檢索增強生成)技術。使用者也可以直接將檔案拖曳到輸入欄位來提供存取權限。Sidekick 還能透過網路搜尋取得最新資訊。
- 自備 API 金鑰:除了本機模型,Sidekick 允許使用者自備金鑰以使用 OpenAI 相容 API。它內建了多個提供商的預設設定,包括 OpenAI、Anthropic、Google AI Studio、DeepSeek、Groq、MiniMax、Mistral、xAI 等。
- 函式呼叫:Sidekick 可以呼叫函式來增強數學和邏輯能力,並執行動作。函式會依序在迴圈中呼叫,直到獲得結果。
- 深度研究:Sidekick 中實作的一個特定代理程式,用於處理長時程、多步驟的研究任務。它會閱讀 50-80 個網頁,並綜合資訊以準備研究報告。
- 記憶:Sidekick 能記住對話之間有用的資訊,使回應更具相關性和個人化。
- 畫布:使用畫布建立、編輯和預覽網站、程式碼及其他文字內容。使用者可以選取文字的一部分,然後提示聊天機器人進行選擇性編輯。
- 圖片生成:Sidekick 可以根據文字生成圖片,使用內建的 CoreML 模型自動識別圖片生成提示。圖片生成功能需要 macOS 15.2 或以上版本,並需要 Apple Intelligence。
使用情境
Sidekick 可用於研究,例如為關於阿茲特克人與西班牙軍隊互動的歷史論文收集證據。使用者可以提問,Sidekick 會回覆帶有頁碼的直接引文和簡要分析。它也可用於數學和邏輯計算、撰寫電子郵件(例如從通訊錄中找到生日和電子郵件地址,並在預設郵件用戶端中建立草稿),以及從文字生成圖片。
快速開始
需求:配備 Apple Silicon 的 Mac,且 RAM ≥ 8 GB。透過 Homebrew 安裝:bashbrew install --cask arcadi4/tap/sidekick-ai如需下載和設定,請參閱儲存庫中的指南。
授權與價格
Sidekick 是開放原始碼軟體,採用 MIT 授權條款。
內容整理自該專案公開的 README 與儲存庫資訊。