HRM
階層式推理模型官方發布
HRM 是什麼?
階層式推理模型官方發布, categories, license, brand_name, etc.
HRM 概覽
這是什麼
Hierarchical Reasoning Model(HRM)是一種用於序列推理任務的遞歸神經架構。它能在單次前向傳播中執行推理,無需對中間過程進行明確監督。該模型由兩個相互依賴的遞歸模組組成:高層模組負責緩慢的抽象規劃,低層模組負責快速的詳細計算。HRM 擁有 2700 萬個參數,僅使用 1000 個訓練樣本即可在複雜推理任務上展現出色表現,無需預訓練或思維鏈(CoT)數據。
主要功能
- 兩個相互依賴的遞歸模組(高層與低層)實現分層推理
- 單次前向傳播,無需明確的中間監督
- 2700 萬個參數
- 僅需 1000 個樣本訓練,無需預訓練或 CoT 數據
- 在複雜數獨謎題與大型迷宮最優路徑尋找上達到近乎完美的表現
- 在抽象與推理語料庫(ARC)上超越擁有更長上下文視窗的更大模型
使用情境
- 解決複雜數獨謎題(9x9 極難)
- 大型迷宮(30x30 困難)中的最優路徑尋找
- 抽象與推理語料庫(ARC)任務
快速開始
### 先決條件:安裝 CUDA 12.6 與支援 CUDA 12.6 的 PyTorch
CUDA_URL=https://developer.download.nvidia.com/compute/cuda/12.6.3/local_installers/cuda_12.6.3_560.35.05_linux.run
wget -q --show-progress --progress=bar:force:noscroll -O cuda_installer.run $CUDA_URL
sudo sh cuda_installer.run --silent --toolkit --override
export CUDA_HOME=/usr/local/cuda-12.6
PYTORCH_INDEX_URL=https://download.pytorch.org/whl/cu126
pip3 install torch torchvision torchaudio --index-url $PYTORCH_INDEX_URL
pip3 install packaging ninja wheel setuptools setuptools-scm
### 安裝 FlashAttention(適用於 Hopper GPU)
git clone [email protected]:Dao-AILab/flash-attention.git
cd flash-attention/hopper
python setup.py install
### 安裝 Python 依賴
pip install -r requirements.txt
### 快速示範:數獨求解器
python dataset/build_sudoku_dataset.py --output-dir data/sudoku-extreme-1k-aug-1000 --subsample-size 1000 --num-aug 1000
OMP_NUM_THREADS=8 python pretrain.py data_path=data/sudoku-extreme-1k-aug-1000 epochs=20000 eval_interval=2000 global_batch_size=384 lr=7e-5 puzzle_emb_lr=7e-5 weight_decay=1.0 puzzle_emb_weight_decay=1.0
授權與價格
採用 Apache-2.0 授權。開源免費。
內容整理自該專案公開的 README 與儲存庫資訊。