---
title: "可解釋機器學習（Interpretable Machine Learning）"
slug: interpretable-machine-learning
language: zh-TW
source: https://aiterms.tw/terms/interpretable-machine-learning
updated_at: 2026-06-23
tags: [可解釋AI, AI基礎, 機器學習]
ipas_term: false
---

# 可解釋機器學習（Interpretable Machine Learning）

設計和使用易於人類理解決策過程的機器學習模型，透過明確的特徵-預測映射提高透明性與信任度。

## 完整說明

可解釋機器學習是一個廣泛的研究與實踐領域，目標是開發或改進機器學習模型，使其決策過程對人類可理解、可驗證、可信賴。與黑盒模型（如深度神經網絡）相比，可解釋模型直觀揭示輸入特徵如何影響輸出預測。這對金融、醫療、法律等高風險領域至關重要，因為利益相關者需要理解並信任模型的決策。

## 常見問題

### 如何在保持高性能的同時達成模型可解釋性？

需要採用漸進式方法。第一步，用簡單的可解釋模型（如線性模型、淺決策樹）建立基準，評估性能。通常基準性能已可接受。第二步，若性能不足，適度複雜化模型：用梯度提升樹（GBT）代替單一決策樹、增加線性模型的特徵交互項、或用稀疏神經網絡。第三步，若仍需更高性能，結合黑盒模型與事後解釋：用複雜模型達成高性能，用 SHAP 或 LIME 提供解釋。實務中，正則化充分的線性模型、不超過 5 層的決策樹、梯度提升樹等已能在多數業務場景達到 95%+ 的黑盒模型性能。關鍵是合理的特徵工程和超參數調整，而非盲目複雜化。

### 決策樹、線性模型、規則學習各有何優劣？應該怎麼選？

三類模型各有特色。決策樹優點是非線性邏輯清晰、可處理混合類型特徵、自帶特徵選擇；缺點是容易過擬合、深度增加後難以理解。線性模型優點是全局解釋直觀、計算高效、泛化好；缺點是難以捕捉非線性關係、對異常值敏感。規則學習優點是規則易於驗證和修改、支持人類的先驗知識；缺點是自動學習難度大、規則間衝突難以調和。選擇時考慮：若特徵間關係大多線性或單調，用線性模型；若包含明顯的分類邏輯和非線性門檻，用淺決策樹；若資料遵循領域已知的規則但需要模型發現新規則，用規則學習。實務中最常見的組合是淺決策樹或梯度提升樹，兼具性能與可解釋性。

### 如何驗證可解釋模型的解釋是否正確可信？

需要多層驗證。首先，檢查解釋是否符合領域知識。例如，信貸風險模型應該發現「收入高的申請人風險低」，如果學到相反規律，說明訓練資料或模型設計有問題。其次，進行反事實驗證：根據模型的解釋修改輸入特徵（如將申請人的债務減少），觀察實際預測的變化，確保變化幅度與解釋一致。第三，用獨立測試集驗證模型性能，若模型在訓練集性能好但測試集差，解釋可能反映的是過擬合模式而非真實規律。第四，進行敏感性分析：故意修改某些特徵觀察模型如何反應，確保重要特徵確實影響預測。最後，邀請領域專家評審解釋的合理性，基於專家反饋調整模型。

---

來源：https://aiterms.tw/terms/interpretable-machine-learning
快查頁：https://aiterms.tw/terms/interpretable-machine-learning
最後更新：2026/06/23
深度解說：https://aiterms.tw/learning/what-is-interpretable-machine-learning