ai-engineer-notebooks
為 AI 工程師 / 前線部署工程師 (FDE) 技能組合設計的實作、無框架 Colab 筆記本 — 模型 API、結構化輸出、工具呼叫、RAG、評估
ai-engineer-notebooks 是什麼？
為 AI 工程師 / 前線部署工程師 (FDE) 技能組合設計的實作、無框架 Colab 筆記本 — 模型 API、結構化輸出、工具呼叫、RAG、以評估為主軸、代理（從頭開始的循環、工具設計、護欄、MCP、技能）、微調 vs LoRA、提示注入/安全性、LLMOps 及客戶工藝。可在免費的 Groq API 上執行。
ai-engineer-notebooks 概覽
這是什麼
這是一系列免框架的 Colab 筆記本，涵蓋 AI 工程師 / 前線部署工程師（FDE）所需的應用 LLM 技能，包括模型 API、結構化輸出、工具呼叫、RAG、評估、代理、微調、安全性、LLMOps 與客戶實務。所有筆記本皆可在免費的 Groq API 上執行（無需信用卡）。
主要功能
- 刻意免框架：先從原始 API 呼叫撰寫代理迴圈、RAG 與評估，再使用任何包裝器。
- 評估為主軸：早期建立「先測量再調整」的習慣，並在後續章節反覆強化。
- 端到端免費執行：所有內容皆可在免費 Groq API 上執行；LoRA 微調與自託管服務提供選用的 Colab GPU 附錄，已在真實 T4 上驗證。
- 真實案例研究：三個端到端情境（在生產環境中除錯的客服助理、管線 vs 代理成本對決、紅隊穩健性基準）。
- 全系列相容 OpenAI：每個模式可直接轉移至 OpenAI，並經小幅修改後用於 Anthropic。
使用情境
適合後端或全端工程師轉職為 AI 工程師、前線部署工程師（FDE）、應用 AI 或解決方案工程師（AI）。這些筆記本假設你已能交付生產級程式碼，並希望補上應用模型層。
快速開始
每個筆記本都是自包含的：它會自行安裝相依套件，並從 Colab 密鑰讀取 API 金鑰。無需全域設定。請參閱儲存庫 README 以取得完整的學習順序與個別筆記本連結。
授權與價格
授權：MIT。價格：開源（免費）。
內容整理自該專案公開的 README 與儲存庫資訊。
