---
title: "模型反演攻擊（Model Inversion Attack）"
slug: model-inversion-attack
language: zh-TW
source: https://aiterms.tw/terms/model-inversion-attack
updated_at: 2026-04-29
tags: [機器學習, 深度學習, 模型訓練, 資訊安全, AI倫理與治理, 資料處理]
ipas_term: false
---

# 模型反演攻擊（Model Inversion Attack）

> **你有沒有想過，模型會不會被反過來逼出訓練資料長什麼樣？**
>
> 你可以把模型反演攻擊想成，攻擊者不是問模型答對沒，而是試著從輸出倒推它看過的樣本特徵。
> 它重要在於，這類攻擊可能把原本看不見的敏感資訊慢慢拼出來。
>
> 你可以把它想成一個把抽象概念拉回日常判斷的提示，先知道它解決什麼問題，再看技術細節。

### 容易混淆

> **模型反演攻擊 vs 成員推斷攻擊**
>
> 模型反演攻擊：嘗試重建訓練樣本的內容或特徵。
> 成員推斷攻擊：嘗試判斷某筆資料有沒有在訓練集裡。
> 最關鍵的區別：前者想知道資料長相，後者想知道資料身份。

> **模型反演攻擊 vs 資料外洩**
>
> 模型反演攻擊：是從模型行為反推資料。
> 資料外洩：是資料本身被直接或間接拿走。
> 最關鍵的區別：前者是推測式攻擊，後者是直接洩漏。

### 記住這句就好

> 不是偷答案，是倒推出你看過什麼。

### 實際案例

> **人臉模型風險**
>
> 如果分類模型對某些人臉輸出很穩定，攻擊者可能試著從輸出重建臉部特徵。

> **語音模型風險**
>
> 在語音任務裡，攻擊者可能透過模型反應，慢慢推回訓練者的聲音特徵。

### 算法與應用

> 攻擊通常利用梯度、輸出分數或中間表示來逼近原始樣本。
> 過度擬合、輸出過細和資料量小，都可能提高風險。
> 差分隱私和輸出限制能降低可被反推的資訊量。

### 情境判斷

> **Q1（情境題）：** 如果模型只做大類別分類，反演攻擊會比較難嗎？
>
> → 通常會比較難，但不是完全沒風險。輸出越粗，能反推的資訊通常越少。

> **Q2（情境題）：** 如果模型對訓練資料非常自信，這代表什麼？
>
> → 可能代表它記住太多細節，反演攻擊的風險也可能上升。

### 常見問題

> **Q：模型反演攻擊只發生在影像模型嗎？**
>
> 不是，文字、語音和其他模態也都可能受影響。

> **Q：它一定需要白盒權限嗎？**
>
> 不一定。黑盒下有時也能利用輸出資訊做推測。

> **Q：怎麼防？**
>
> 常見做法是差分隱私、限制輸出細節和避免過擬合。

### 相關術語

> - **成員推斷攻擊**：兩種隱私攻擊常一起比較。
> - **差分隱私**：反演攻擊的重要防線。
> - **資料隱私**：理解這個攻擊的核心目的。
> - **黑箱模型**：黑盒環境也可能被利用。

---

來源：https://aiterms.tw/terms/model-inversion-attack
快查頁：https://aiterms.tw/terms/model-inversion-attack
最後更新：2026/04/29
深度解說：https://aiterms.tw/learning/what-is-model-inversion-attack