dynolab

Dyno Lab — 專為 Apple Silicon 設計的 AI 安全、對齊與可解釋性研究工作台。探索啟用值、探測器、SAE 與介入操作,搭配本機推論。

dynolab 是什麼?

Dyno Lab — 專為 Apple Silicon 設計的 AI 安全、對齊與可解釋性研究工作台。透過本機推論、Python SDK、API 與 MCP,探索啟用值、探測器、SAE 與介入操作。

dynolab 概覽

這是什麼

Dyno Lab 是一款免費、開源的 Mac 應用程式,專為 Apple Silicon 設計,用於 AI 安全、對齊與可解釋性研究。使用者可以在本機執行模型、檢查內部激活值、訓練探測器(probes)與稀疏自編碼器(SAEs),並進行干預操作。此應用包含 Python SDK、HTTP API 與 MCP 支援。它內建 Python 與 MLX;模型權重需另外下載。需要 macOS 14+ 與 Apple Silicon。

主要功能

  • 助手(Assistant):以自然語言(打字或語音)描述研究問題,Dyno 會使用本機模型設定實驗。
  • 研究筆記(Studies):本機筆記本,可保存問題、提示詞、結果與觀察記錄,支援串流、版本比較與歸檔。
  • 激活值捕捉:探索層 × 詞元激活值大小與下一個詞元預測;常駐捕捉會重複使用服務模型的權重。
  • 探測器(Probes):訓練線性探測器,並檢查保留指標與對照基準。
  • SAE 沙盒:訓練小型稀疏自編碼器,檢查訓練曲線與特徵範例。
  • 干預操作:縮放、消融、修補或引導區塊輸出,並與未改變的基準比較。
  • 神經元分析:捕捉語料庫中某一層的所有神經元,瀏覽兩極,使用本機模型標記,大規模訓練 SAE,並消融或引導單元。
  • 詞元分析:探索詞元機率與替代選項,比較輸出,並重新開啟已儲存的分析。
  • Claude Code 與 Codex 支援:透過一條指令在您下載的模型上執行這些工具。

使用情境

  • 調查模型行為並測試關於內部推理的假設。
  • 重現可解釋性實驗(例如使用 Qwen 模型進行識別符忠誠度實驗)。
  • 執行代理沙盒測試:主導代理建立隊友以達成目標,同時隱藏觀察者記錄違規行為。
  • 使用 Inspect AI 基準與代理測試一起評估模型。
  • 探索激活模式、訓練探測器與 SAE,以進行安全研究。

快速開始

  1. 從儲存庫下載 Apple Silicon DMG,打開並將 Dyno 拖入 Applications 資料夾。 2. 打開 Dyno。在 Discover 中下載適合您 Mac 的 MLX 模型,然後在 Models 中選取並啟動它。 3. 打開助手(⌘J)並描述您想測試的內容,或從選單中嘗試一般聊天。在 Execution 中查看每個請求,然後捕捉您的第一個激活圖。 若要在您自己的模型上執行 Claude Code 或 Codex: dyno launch claude --model qwen3.8-27b dyno launch codex --model qwen3.8-27b 需要 Apple Silicon 與 macOS 14+。Python 與 MLX 已內建;模型權重需另外下載。

授權與價格

授權:MIT。價格:免費且開源。

內容整理自該專案公開的 README 與儲存庫資訊。

將此徽章加入你的 README

Featured on YunoDB 徽章樣式與說明

你是這個專案的維護者嗎?展示它已收錄於 YunoDB。

Markdown[![Featured on YunoDB](https://yunodb.com/badge/caniveldynolab.svg)](https://yunodb.com/tools/caniveldynolab?utm_source=github&utm_medium=badge)
HTML<a href="https://yunodb.com/tools/caniveldynolab?utm_source=github&utm_medium=badge"><img src="https://yunodb.com/badge/caniveldynolab.svg" alt="Featured on YunoDB" height="20"></a>