modern-llm-notebook

一堂實作課程,從零開始使用 PyTorch 建構現代大型語言模型,包含 26 個可執行的 Jupyter Notebook,涵蓋 tokenizer、注意力機制、MoE、RLHF、推論、評估與蒸餾。

modern-llm-notebook 是什麼?

一堂實作課程,從零開始使用 PyTorch 建構現代大型語言模型,包含 26 個可執行的 Jupyter Notebook,涵蓋 tokenizer、注意力機制、MoE、RLHF、推論、評估與蒸餾。