案例08｜Supervised、Unsupervised、Self-supervised：三種訓練典範

一、案例定位

本案例依原書 3.3.3「Training Paradigms」整理。

比較生成式模型採用的 Supervised、Unsupervised 與 Self-supervised Learning。

二、學習目標

區分三種 Training Paradigm。
理解 Conditional GAN、GAN／VAE、GPT 的對應關係。
辨識 Data Quality、Compute、Bias 三類限制。

三、案例情境

原書指出，Supervised Learning 使用 Label；Unsupervised Learning 不依賴 Label；Self-supervised Learning 則從 Unlabeled Data 本身產生 Pseudo-label／Pretext Task。Transformer／GPT 尤其依賴 Self-supervised Learning。

四、開始資料

訓練典範	原書定義	原書例子／限制
Supervised	使用 Labeled Dataset 學習 Input→Output	Conditional GAN
Unsupervised	不使用 Label，學習內在 Data Structure	Standard GAN、VAE、Autoencoder
Self-supervised	從 Unlabeled Data 自行產生 Pseudo-label／Task	Transformer、GPT；適合 Label 稀缺／昂貴情境
共同挑戰	Data Quality、Scalability、Bias	Noisy／Biased Data 會傳入 Generated Output

五、Excel／AI 分析方法

Excel 可記錄 Dataset、Label Availability、Training Paradigm、Compute Need、Bias Check；AI 可協助分類資料型態，但不能自行判斷 Label Quality。

六、計算結果

原書沒有提供三種 Training Paradigm 的固定 Performance Difference。

七、結果分析與管理解讀

選擇 Training Paradigm 要看 Label Availability、Task、Data Quality 與 Compute Resource，而不是只看模型名稱。

八、AI 提問詞

請依資料是否有 Label、是否能由資料本身建立 Pretext Task、任務目標與 Compute Constraint，判斷較適合的 Training Paradigm；沒有 Performance Data 時不要補數字。