Qwen

由阿里雲提出的 Qwen(通義千問)聊天與預訓練大型語言模型的官方儲存庫。

Qwen 是什麼?

由阿里雲提出的 Qwen(通義千問)聊天與預訓練大型語言模型的官方儲存庫。

Qwen 概覽

這是什麼

Qwen(通義千問)是阿里巴巴雲端推出的一系列大型語言模型。包含基礎語言模型(Qwen-1.8B、Qwen-7B、Qwen-14B、Qwen-72B)以及對話模型(Qwen-Chat)。這些模型在最多 3 兆個多語言 token 上進行預訓練,重點涵蓋中文與英文。它們在 MMLU、C-Eval、GSM8K、HumanEval 等基準測試中表現出色。本倉庫提供推論、量化、微調、部署及工具使用等功能。注意:由於 Qwen2 的發布,此倉庫已不再積極維護。

主要功能

  • 提供四種尺寸的基礎與對話模型:1.8B、7B、14B、72B。
  • 在最多 3 兆個 token 上預訓練;1.8B、7B 與 72B 模型支援 32K 上下文長度。
  • 提供 Int4 與 Int8 量化版本,降低 GPU 記憶體使用量。
  • 支援全參數微調、LoRA 與 Q-LoRA。
  • 支援工具使用、代理(agent)與程式碼直譯器功能。
  • 提供推論效能統計資料以及使用 vLLM 和 FastChat 的部署範例。

使用情境

  • 對話、內容創作、資訊提取、摘要、翻譯、程式碼撰寫與數學問題求解。
  • 工具使用、代理、程式碼直譯器。
  • 長上下文理解評估。

快速開始

請參閱本倉庫的 README 以取得安裝與快速開始的說明。

授權與價格

授權:Apache-2.0。價格:開源(免費)。

內容整理自該專案公開的 README 與儲存庫資訊。

將此徽章加入你的 README

Featured on YunoDB 徽章樣式與說明

你是這個專案的維護者嗎?展示它已收錄於 YunoDB。

Markdown[![Featured on YunoDB](https://yunodb.com/badge/qwenlmqwen.svg)](https://yunodb.com/tools/qwenlmqwen?utm_source=github&utm_medium=badge)
HTML<a href="https://yunodb.com/tools/qwenlmqwen?utm_source=github&utm_medium=badge"><img src="https://yunodb.com/badge/qwenlmqwen.svg" alt="Featured on YunoDB" height="20"></a>