Day 3科目一難度：進階
Day3 深度學習基礎
一句話記住這天：
深度學習＝多層神經網路：CNN看圖、RNN聽話、Transformer看全文——小白先懂概念不必會算。
學習目標
- 理解神經網路基本結構
- 區分 CNN/RNN/Transformer/GAN
- 掌握激活函數與反向傳播
- 熟記常見模型名稱
本日導讀:學什麼、考什麼、容易錯什麼
建議時間40 分鐘（學習 25 分 + 測驗 10 分 + 費曼 5 分）
你會學到
- 神經網路三層結構與激活函數選用（ReLU／Sigmoid／Softmax）
- 區分 CNN／RNN／Transformer／GAN 各自擅長什麼
- 認識反向傳播與代表性模型名稱（ResNet、BERT、GPT）
考點濃縮
- 結構：輸入層→隱藏層→輸出層，神經元＝加權和＋激活函數
- 激活函數：ReLU（隱藏層）、Sigmoid（二元分類）、Softmax（多類別輸出）
- CNN 三件套＝卷積提取特徵／池化降維／全連接分類
- RNN 有梯度消失，LSTM 用三閘解決
- Transformer（2017, Google）核心＝Self-Attention
- BERT Encoder-only、GPT Decoder-only
- GAN＝生成器＋判別器對抗訓練
- ResNet 關鍵創新＝殘差連接（Skip Connection）
常見陷阱
- Softmax 與 Sigmoid 用途顛倒：多類別用 Softmax、二元才用 Sigmoid
- 誤認 BERT 是生成模型——BERT 是 Encoder-only 做理解，GPT 才是 Decoder-only 生成
- 以為 ResNet 靠「更深網路」取勝，關鍵是殘差連接
- 避開：把 GAN 當單一網路，它是兩個網路對抗
過關檢查
- 能說出 CNN／RNN／Transformer／GAN 各自拿手的任務（圖像／序列／全文／生成）
- 能講出 ResNet 的關鍵創新與 Transformer 的核心機制
Active Recall：先回憶再學習
你知道哪些「深度學習」的模型類型？它們各自擅長什麼？
神經網路基本結構
輸入層 → 隱藏層 → 輸出層
神經元：加權和 + 激活函數
- 激活函數：ReLU(隱藏層)、Sigmoid(二元分類)、Softmax(多類別)
- 正向傳播：輸入→計算→輸出
- 反向傳播：計算梯度→更新權重
CNN（卷積神經網路）
擅長圖像辨識、影像處理。
- 卷積層：提取特徵
- 池化層：降低維度
- 全連接層：分類決策
- 代表：LeNet → AlexNet → VGG → ResNet(殘差連接) → EfficientNet
RNN/LSTM（循環神經網路）
擅長序列資料（文字、時間序列）。
- RNN 有梯度消失問題
- LSTM 透過遺忘閘/輸入閘/輸出閘解決
- GRU 是 LSTM 的簡化版
Transformer
2017 Google 提出，完全基於 Self-Attention 機制。
- BERT：Encoder-only（理解任務）
- GPT：Decoder-only（生成任務）
- 目前已取代 RNN 成為 NLP 主流架構
GAN（生成對抗網路）
生成器(Generator) + 判別器(Discriminator)
兩者對抗訓練：生成器想騙過判別器，判別器想抓出假貨。
用於圖像生成、風格轉換。
課後測驗（4題）
已作答 0 / 4
用一個生活比喻，解釋「神經網路是怎麼從資料中學會辨認東西的」：
進度與錯題只存在這個瀏覽器，不需登入。