Chinese-LLaMA-Alpaca
中文LLaMA&Alpaca大語言模型+本地CPU/GPU訓練部署 (Chinese LLaMA & Alpaca LLMs)
Chinese-LLaMA-Alpaca 是什麼?
中文LLaMA&Alpaca大語言模型+本地CPU/GPU訓練部署 (Chinese LLaMA & Alpaca LLMs)
Chinese-LLaMA-Alpaca 概覽
這是什麼
Chinese-LLaMA-Alpaca 是一個開源專案,提供中文 LLaMA 基座模型與經過指令精調的 Alpaca 大語言模型。它在原始 LLaMA 的基礎上擴充了中文詞表,並使用中文資料進行二次預訓練,以提升中文語意理解能力。Alpaca 模型則進一步使用中文指令資料進行精調,增強對指令的理解與執行能力。本專案支援本機 CPU/GPU 訓練與部署。
主要功能
- 針對原始 LLaMA 模型擴充中文詞表,提升中文編解碼效率
- 開源使用中文文本資料預訓練的中文 LLaMA 以及經過指令精調的中文 Alpaca
- 開源預訓練腳本與指令精調腳本,使用者可依需求進一步訓練模型
- 支援在個人電腦上以 CPU/GPU 進行量化與本機部署
- 相容於 🤗transformers、llama.cpp、text-generation-webui、LlamaChat、LangChain、privateGPT 等生態
使用情境
- 中文 LLaMA:文本續寫(給定上文內容,讓模型生成下文)
- 中文 Alpaca:指令理解(問答、寫作、建議等)、多輪上下文理解(聊天等)
- 不適用情境:LLaMA 不適用於指令理解或多輪聊天;Alpaca 不適用於無限制自由生成
快速開始
請參閱專案 README 中的模型下載、LoRA 權重合併與本機部署說明。
授權與價格
採用 Apache-2.0 授權。開源且免費。
內容整理自該專案公開的 README 與儲存庫資訊。