transformers-explained

222 的 MCP Server for 111

transformers-explained 是什麼?

222 的 MCP Server 是一个由 222 开发的服务器 ...

transformers-explained 概覽

這是什麼

Transformers Explained 是一份逐步教學指南,涵蓋完整的 Transformer 架構、每一種注意力機制變體、位置嵌入以及 Transformer 內部的每一層。由 Outcome School 創辦人 Amit Shekhar 維護,並以開放原始碼形式發布於 GitHub。

主要功能

  • 從 tokenization 到輸出,完整解說 Transformer 架構 - 解釋所有注意力變體:自注意力、多頭注意力、交叉注意力、因果遮罩、分組查詢注意力與 Flash Attention - 包含注意力(Q、K、V)、縮放因子 √dₖ 與旋轉位置嵌入(RoPE)的詳細數學推導 - 說明前饋網路、殘差連接與層歸一化 - 提供數值範例與逐步解說 - 分為四個部分:架構、注意力、位置與其他層

使用情境

  • 從零開始學習 Transformer 運作原理 - 了解現代大型語言模型(LLM)的內部元件 - 為研究或教學研讀注意力機制與位置嵌入 - 準備深度學習與自然語言處理的面試或課程

快速開始

請參閱儲存庫的 README 以取得每篇部落格文章與影片的連結。無需安裝。

授權與價格

採用 Apache-2.0 授權。此專案為開放原始碼且免費使用。

內容整理自該專案公開的 README 與儲存庫資訊。

將此徽章加入你的 README

Featured on YunoDB 徽章樣式與說明

你是這個專案的維護者嗎?展示它已收錄於 YunoDB。

Markdown[![Featured on YunoDB](https://yunodb.com/badge/amitshekhariitbhutransformers-explained.svg)](https://yunodb.com/tools/amitshekhariitbhutransformers-explained?utm_source=github&utm_medium=badge)
HTML<a href="https://yunodb.com/tools/amitshekhariitbhutransformers-explained?utm_source=github&utm_medium=badge"><img src="https://yunodb.com/badge/amitshekhariitbhutransformers-explained.svg" alt="Featured on YunoDB" height="20"></a>