Chinese-LLaMA-Alpaca

中文LLaMA&Alpaca大語言模型+本地CPU/GPU訓練部署 (Chinese LLaMA & Alpaca LLMs)

Chinese-LLaMA-Alpaca 是什麼?

中文LLaMA&Alpaca大語言模型+本地CPU/GPU訓練部署 (Chinese LLaMA & Alpaca LLMs)

Chinese-LLaMA-Alpaca 概覽

這是什麼

Chinese-LLaMA-Alpaca 是一個開源專案,提供中文 LLaMA 基座模型與經過指令精調的 Alpaca 大語言模型。它在原始 LLaMA 的基礎上擴充了中文詞表,並使用中文資料進行二次預訓練,以提升中文語意理解能力。Alpaca 模型則進一步使用中文指令資料進行精調,增強對指令的理解與執行能力。本專案支援本機 CPU/GPU 訓練與部署。

主要功能

  • 針對原始 LLaMA 模型擴充中文詞表,提升中文編解碼效率
  • 開源使用中文文本資料預訓練的中文 LLaMA 以及經過指令精調的中文 Alpaca
  • 開源預訓練腳本與指令精調腳本,使用者可依需求進一步訓練模型
  • 支援在個人電腦上以 CPU/GPU 進行量化與本機部署
  • 相容於 🤗transformers、llama.cpp、text-generation-webui、LlamaChat、LangChain、privateGPT 等生態

使用情境

  • 中文 LLaMA:文本續寫(給定上文內容,讓模型生成下文)
  • 中文 Alpaca:指令理解(問答、寫作、建議等)、多輪上下文理解(聊天等)
  • 不適用情境:LLaMA 不適用於指令理解或多輪聊天;Alpaca 不適用於無限制自由生成

快速開始

請參閱專案 README 中的模型下載、LoRA 權重合併與本機部署說明。

授權與價格

採用 Apache-2.0 授權。開源且免費。

內容整理自該專案公開的 README 與儲存庫資訊。

將此徽章加入你的 README

Featured on YunoDB 徽章樣式與說明

你是這個專案的維護者嗎?展示它已收錄於 YunoDB。

Markdown[![Featured on YunoDB](https://yunodb.com/badge/ymcuichinese-llama-alpaca.svg)](https://yunodb.com/tools/ymcuichinese-llama-alpaca?utm_source=github&utm_medium=badge)
HTML<a href="https://yunodb.com/tools/ymcuichinese-llama-alpaca?utm_source=github&utm_medium=badge"><img src="https://yunodb.com/badge/ymcuichinese-llama-alpaca.svg" alt="Featured on YunoDB" height="20"></a>