dynolab
Dyno Lab — 專為 Apple Silicon 設計的 AI 安全、對齊與可解釋性研究工作台。探索啟用值、探測器、SAE 與介入操作,搭配本機推論。
dynolab 是什麼?
Dyno Lab — 專為 Apple Silicon 設計的 AI 安全、對齊與可解釋性研究工作台。透過本機推論、Python SDK、API 與 MCP,探索啟用值、探測器、SAE 與介入操作。
dynolab 概覽
這是什麼
Dyno Lab 是一款免費、開源的 Mac 應用程式,專為 Apple Silicon 設計,用於 AI 安全、對齊與可解釋性研究。使用者可以在本機執行模型、檢查內部激活值、訓練探測器(probes)與稀疏自編碼器(SAEs),並進行干預操作。此應用包含 Python SDK、HTTP API 與 MCP 支援。它內建 Python 與 MLX;模型權重需另外下載。需要 macOS 14+ 與 Apple Silicon。
主要功能
- 助手(Assistant):以自然語言(打字或語音)描述研究問題,Dyno 會使用本機模型設定實驗。
- 研究筆記(Studies):本機筆記本,可保存問題、提示詞、結果與觀察記錄,支援串流、版本比較與歸檔。
- 激活值捕捉:探索層 × 詞元激活值大小與下一個詞元預測;常駐捕捉會重複使用服務模型的權重。
- 探測器(Probes):訓練線性探測器,並檢查保留指標與對照基準。
- SAE 沙盒:訓練小型稀疏自編碼器,檢查訓練曲線與特徵範例。
- 干預操作:縮放、消融、修補或引導區塊輸出,並與未改變的基準比較。
- 神經元分析:捕捉語料庫中某一層的所有神經元,瀏覽兩極,使用本機模型標記,大規模訓練 SAE,並消融或引導單元。
- 詞元分析:探索詞元機率與替代選項,比較輸出,並重新開啟已儲存的分析。
- Claude Code 與 Codex 支援:透過一條指令在您下載的模型上執行這些工具。
使用情境
- 調查模型行為並測試關於內部推理的假設。
- 重現可解釋性實驗(例如使用 Qwen 模型進行識別符忠誠度實驗)。
- 執行代理沙盒測試:主導代理建立隊友以達成目標,同時隱藏觀察者記錄違規行為。
- 使用 Inspect AI 基準與代理測試一起評估模型。
- 探索激活模式、訓練探測器與 SAE,以進行安全研究。
快速開始
- 從儲存庫下載 Apple Silicon DMG,打開並將 Dyno 拖入 Applications 資料夾。 2. 打開 Dyno。在 Discover 中下載適合您 Mac 的 MLX 模型,然後在 Models 中選取並啟動它。 3. 打開助手(⌘J)並描述您想測試的內容,或從選單中嘗試一般聊天。在 Execution 中查看每個請求,然後捕捉您的第一個激活圖。 若要在您自己的模型上執行 Claude Code 或 Codex:
dyno launch claude --model qwen3.8-27b dyno launch codex --model qwen3.8-27b需要 Apple Silicon 與 macOS 14+。Python 與 MLX 已內建;模型權重需另外下載。
授權與價格
授權:MIT。價格:免費且開源。
內容整理自該專案公開的 README 與儲存庫資訊。