---
title: "自監督學習（Self-supervised Learning）"
slug: self-supervised-learning
language: zh-TW
source: https://aiterms.tw/terms/self-supervised-learning
updated_at: 2026-07-30
tags: [預訓練, 表示學習, 大型語言模型, 對比學習, 遷移學習]
ipas_term: false
---

# 自監督學習（Self-supervised Learning）

從未標注資料中自動建立監督信號以訓練模型的學習範式，無需人工標注。

## 完整說明

自監督學習（Self-supervised Learning）是一種介於監督學習與無監督學習之間的訓練範式，核心思想是從資料本身的結構中自動生成訓練標籤（稱為「藉口任務」或 Pretext Task），讓模型在無需人工標注的情況下學習具有語意的表示。預訓練完成後，所學表示可遷移至下游監督任務。

## 常見問題

### 自監督學習和無監督學習有什麼不同？

這兩個概念常被混淆，但有本質區別。無監督學習通常指聚類（K-means）、密度估計或降維等沒有明確預測目標的方法，是在「無監督」的情況下尋找資料的內在結構。自監督學習則有明確的預測任務：只是這個任務的標籤是從資料本身自動生成的，而非人工標注。例如 BERT 預測被遮住的詞、MAE 重建被遮住的影像區域，這些都是明確的有監督預測問題，只是監督信號來自資料本身而非人工標注員。因此，自監督學習在技術實現上更接近監督學習，但在資料需求上更接近無監督學習。

### 為什麼 BERT 和 GPT 都屬於自監督學習，但訓練方式不同？

BERT 和 GPT 確實都是自監督預訓練模型，但採用了不同的「藉口任務」設計：BERT 使用遮罩語言建模（MLM），隨機遮住句子中的部分詞彙，要求模型同時參考左右兩側的上下文來預測被遮住的詞，屬於「雙向」語言模型，適合需要理解全文語境的任務（如文字分類、問答）。GPT 則採用自回歸語言建模（Causal LM），訓練模型依序預測下一個詞，只能看到左側歷史，屬於「單向」語言模型，更適合文字生成任務。這兩種設計各有優劣，選擇哪種取決於下游任務的性質。

### 自監督學習有沒有什麼限制或缺點？

自監督學習雖然強大，但並非沒有挑戰。第一，藉口任務的設計需要領域知識和大量實驗，不同的預訓練任務對下游任務的遷移效果差異很大；第二，預訓練通常需要極大規模的運算資源（大量 GPU 和能源消耗），對一般研究者而言門檻很高；第三，雖然不需要人工標注，但預訓練語料本身若存在偏見（Bias），模型就可能學到並放大這些偏見；第四，自監督學習能學到良好的通用表示，但在某些高度專業化的小型任務上，針對任務設計的監督學習方法有時仍能取得更好的效果。

---

來源：https://aiterms.tw/terms/self-supervised-learning
快查頁：https://aiterms.tw/terms/self-supervised-learning
最後更新：2026/07/30
深度解說：https://aiterms.tw/learning/what-is-self-supervised-learning