Qwen
由阿里雲提出的 Qwen(通義千問)聊天與預訓練大型語言模型的官方儲存庫。
Qwen 是什麼?
由阿里雲提出的 Qwen(通義千問)聊天與預訓練大型語言模型的官方儲存庫。
Qwen 概覽
這是什麼
Qwen(通義千問)是阿里巴巴雲端推出的一系列大型語言模型。包含基礎語言模型(Qwen-1.8B、Qwen-7B、Qwen-14B、Qwen-72B)以及對話模型(Qwen-Chat)。這些模型在最多 3 兆個多語言 token 上進行預訓練,重點涵蓋中文與英文。它們在 MMLU、C-Eval、GSM8K、HumanEval 等基準測試中表現出色。本倉庫提供推論、量化、微調、部署及工具使用等功能。注意:由於 Qwen2 的發布,此倉庫已不再積極維護。
主要功能
- 提供四種尺寸的基礎與對話模型:1.8B、7B、14B、72B。
- 在最多 3 兆個 token 上預訓練;1.8B、7B 與 72B 模型支援 32K 上下文長度。
- 提供 Int4 與 Int8 量化版本,降低 GPU 記憶體使用量。
- 支援全參數微調、LoRA 與 Q-LoRA。
- 支援工具使用、代理(agent)與程式碼直譯器功能。
- 提供推論效能統計資料以及使用 vLLM 和 FastChat 的部署範例。
使用情境
- 對話、內容創作、資訊提取、摘要、翻譯、程式碼撰寫與數學問題求解。
- 工具使用、代理、程式碼直譯器。
- 長上下文理解評估。
快速開始
請參閱本倉庫的 README 以取得安裝與快速開始的說明。
授權與價格
授權:Apache-2.0。價格:開源(免費)。
內容整理自該專案公開的 README 與儲存庫資訊。