Day 4科目二難度：基礎
Day4 生成式AI與LLM
一句話記住這天：
生成式AI＝讓AI「產出全新內容」，LLM 是王牌，Transformer 是背後的引擎，Prompt 是溝通方式。
學習目標
- 理解生成式AI核心概念
- 掌握 Transformer 與 LLM 原理
- 熟悉 Prompt Engineering 四要素
- 了解 RAG 架構
本日導讀:學什麼、考什麼、容易錯什麼
建議時間40 分鐘（學習 25 分 + 測驗 10 分 + 費曼 5 分）
你會學到
- 分辨生成式 vs 判別式，理解 LLM 與擴散模型
- 掌握 LLM 訓練三階段（預訓練 → SFT → RLHF）
- 熟悉 Prompt 四要素、RAG 架構與 AI Agent
考點濃縮
- 生成式（創造新內容）vs 判別式（分類／預測）
- 擴散模型（Stable Diffusion、DALL·E）從雜訊還原圖像
- LLM 三階段：預訓練（自監督，預測下一個 Token）→ 微調 SFT → RLHF（對齊人類偏好）
- Prompt 四要素＝角色 Role／任務 Task／格式 Format／限制 Constraint
- 技巧有 Zero/Few-shot、CoT
- RAG 三元件＝Embedding 模型＋向量資料庫＋LLM，解決知識截止、降低幻覺
- Agent＝LLM＋記憶＋工具＋規劃
常見陷阱
- 誤以為 Temperature 控制「溫度」——它控制輸出隨機性
- Prompt 四要素硬加「模型選擇」，它不屬於四要素
- 把 RAG 當成改模型權重的微調——RAG 靠外部檢索、不重訓模型
- 記熟 RAG 解的是「幻覺與知識截止」，不是訓練太慢或成本太高
過關檢查
- 能背出 Prompt 四要素與一個 RAG 解決的痛點
- 能說出 LLM 訓練三階段順序
- 能講出 Agent 的四個組成
Active Recall：先回憶再學習
你平常怎麼用 ChatGPT？你覺得它是怎麼「理解」你的問題的？
生成式AI vs 判別式AI
生成式：創造新內容（文字、圖像、程式碼）
判別式：分類或預測（垃圾郵件偵測）
- LLM：大型語言模型，基於 Transformer
- 擴散模型：Stable Diffusion, DALL·E（從雜訊還原圖像）
LLM 訓練三階段
① 預訓練(Pre-training)：自監督式，預測下一個Token
② 微調(SFT)：用高品質對話資料調整
③ RLHF：人類回饋強化學習，對齊人類偏好
Prompt 四要素
① 角色(Role)：你是一位專業AI工程師…
② 任務(Task)：請幫我解釋Transformer…
③ 格式(Format)：用表格呈現…
④ 限制(Constraint)：200字以內…
技巧：Zero/Few-shot、Chain-of-Thought、負面提示
RAG 架構
Retrieval-Augmented Generation
Embedding → Vector DB → LLM
- 解決知識截止問題
- 降低幻覺（可引用來源）
- 三元件：Embedding模型 + 向量資料庫 + LLM
AI Agent
Agent = LLM + 記憶 + 工具 + 規劃
- ReAct：推理+行動交替
- Function Calling：呼叫外部API
- 框架：LangGraph、AutoGen、CrewAI
課後測驗（4題）
已作答 0 / 4
用一句話解釋「RAG 是怎麼降低 AI 幻覺的」：
進度與錯題只存在這個瀏覽器，不需登入。