---
title: "LIME（Local Interpretable Model-agnostic Explanations）"
slug: local-interpretable-model-agnostic-explanations
language: zh-TW
source: https://aiterms.tw/terms/local-interpretable-model-agnostic-explanations
updated_at: 2026-07-29
tags: [模型評估, AI倫理與治理]
ipas_term: true
---

# LIME（Local Interpretable Model-agnostic Explanations）

> **你有沒有被 AI 拒絕過申請，卻不知道它到底在看什麼？**
> 你可以把 LIME 想成，先在這一筆資料附近做小實驗，再推回模型為什麼這樣判斷。
> 它其實就是一種針對單筆預測的局部解釋方法。
> 不管底下是樹模型、神經網路還是其他黑箱模型，它都能派上用場。
>
### 容易混淆
> **LIME vs SHAP**
> LIME 做局部近似，SHAP 做特徵貢獻分配。
> 一個重速度和直覺，一個重理論與穩定性。
>
> **LIME vs 特徵重要性**
> 特徵重要性常看整體，LIME 常看單筆。
> 一個回答模型平常怎麼想，一個回答這一次怎麼想。
>
> **最關鍵的區別：** LIME 是單筆局部解釋，不是整體規則。
>
### 記住這句就好
> 先看這一筆附近，再解釋模型為什麼這樣判斷。
>
### 實際案例
> **信用審核**
> 當客戶被拒絕時，LIME 可以指出影響最大的條件，像是逾期紀錄、負債比或收入不足。
>
> **醫療影像**
> 醫師想知道模型為何判成肺炎，LIME 可以標出影像裡最敏感的區塊。
>
### 算法與應用
> 它會對原始樣本附近做擾動，產生一批鄰近樣本，再用黑箱模型去打分。
> 接著用簡單模型去近似這些鄰近樣本的行為，得到局部解釋。
> 這種方法快、直觀，但不是模型真實內部邏輯。
>

### LIME 的名字就是它的做法

> 這個縮寫的四個字各自對應一個設計決定，拆開來看就懂它在做什麼。
>
> **Local（局部）。** 它不解釋整個模型，只解釋「這一筆預測為什麼是這個結果」。因為複雜模型的整體行為不可能用簡單規則描述，但在單一資料點的附近，行為往往接近線性。
>
> **Interpretable（可解釋）。** 產出的解釋是人看得懂的形式，例如「這幾個詞讓它判成垃圾郵件」「這幾塊像素讓它判成狼」。
>
> **Model-agnostic（模型無關）。** 它把模型當黑箱，只透過「餵輸入、收輸出」來分析。所以任何模型都能用，不需要看內部權重。
>
> **Explanations（解釋）。**

### 實際運算的四個步驟

> **第一步，擾動。** 針對要解釋的那一筆資料，產生大量的變化版本。文字就隨機拿掉一些詞，影像就把某些區塊（superpixel）遮掉，表格資料就對特徵值加擾動。
>
> **第二步，取得預測。** 把這些變化版本全部餵進黑箱模型，記下輸出。
>
> **第三步，加權。** 離原資料越近的擾動樣本權重越高，因為 LIME 只想描述這個點附近的行為。
>
> **第四步，配一個簡單模型。** 用這些加權樣本訓練一個線性回歸或簡單決策樹。這個簡單模型的係數，就是解釋。
>
> **要注意的兩個限制。** 第一，因為擾動是隨機的，同一筆資料跑兩次可能得到不太一樣的解釋，穩定性是 LIME 常被批評的地方。第二，「附近」的範圍由一個核寬度參數決定，這個參數沒有理論上的最佳值，換一個值解釋就會變。
>
> 常被拿來比較的是 SHAP：SHAP 有博弈論的理論基礎、結果一致且可加總，但計算成本高很多。實務上快速看趨勢用 LIME，要能對外交代用 SHAP。

### 情境判斷
> **Q1（直覺題）： 你只想知道某一筆貸款為什麼被拒，該先看哪種解釋方法？**
>
> → LIME 很適合，因為它主打單筆局部解釋。
>
> **Q2（判斷題）： LIME 跑出來的解釋，就等於模型真正的決策規則嗎？**
>
> → 不是，它只是近似，所以要把它當成解讀工具，而不是模型內部原理。
>
### iPAS 考題
> **Q：LIME 最核心的用途是什麼？**
> 用局部近似的方式，解釋黑箱模型對單筆資料的預測原因。
>
> **Q：LIME 和 SHAP 最大差異是什麼？**
> LIME 偏局部近似，SHAP 偏特徵貢獻分配與一致性。
>
### 常見問題
> **Q：LIME 可以解釋所有模型嗎？**
> 大多數情況下可以，因為它是 model-agnostic，不綁特定模型。
>
> **Q：LIME 的結果穩定嗎？**
> 不是每次都完全一樣，因為它依賴局部擾動，結果會受抽樣影響。
>
> **Q：什麼時候不適合只用 LIME？**
> 當你需要全局規則、很高穩定性，或要做嚴格審計時，通常還要搭配別的方法。
>
### 相關術語
> - **SHAP**：兩者最常被拿來對照，讀完能建立可解釋 AI 的基本分工。
> - **黑箱模型**：LIME 存在的原因，就是因為黑箱難懂。
> - **人工智慧倫理**：高風險決策常需要這類解釋能力。
> - **可解釋人工智慧**：LIME 是這個領域最常被提到的方法之一。

---

來源：https://aiterms.tw/terms/local-interpretable-model-agnostic-explanations
快查頁：https://aiterms.tw/terms/local-interpretable-model-agnostic-explanations
最後更新：2026/07/29
深度解說：https://aiterms.tw/learning/what-is-local-interpretable-model-agnostic-explanations