---
title: "超參數調校（Hyperparameter Tuning）"
slug: hyperparameter-tuning
language: zh-TW
source: https://aiterms.tw/terms/hyperparameter-tuning
updated_at: 2026-07-29
tags: [機器學習, 模型訓練, 最佳化, 模型評估, AutoML, Python程式, iPAS中級]
ipas_term: false
---

# 超參數調校（Hyperparameter Tuning）

> **你有沒有試過同一個模型，只是把幾個設定換掉，結果好壞差很多？**
>
> 你可以把超參數調校想成幫模型找最合適的設定組合。
> 它不是在改模型本身，而是在找最適合這個資料的訓練方式。
>
> 你可以把它想成一個把抽象概念拉回日常判斷的提示，先知道它解決什麼問題，再看技術細節。

### 容易混淆

> **超參數調校 vs 模型訓練**
> 模型訓練是讓模型學資料
> 超參數調校是找怎麼學比較好
> 最關鍵的區別是學內容，還是調學法
>
> **網格搜尋 vs 隨機搜尋 vs 貝氏最佳化**
> 網格搜尋逐格試
> 隨機搜尋隨機抽樣試
> 貝氏最佳化會根據過去結果更聰明地選下一組
>
### 記住這句就好

> 不是調模型本身，而是在調學法。

### 實際案例

> **分類模型調參**
> 你可以先固定資料切分，再試不同學習率和正則化強度，找出驗證表現最好的組合。
>
> **深度學習實驗**
> 不同 batch size、learning rate 和 dropout 率常會讓結果差很多，所以調校流程幾乎是必要的。
>
### 算法與應用

> 超參數調校通常依賴驗證資料集，不是只看訓練集。
> 如果一直盯著驗證集調到太滿，也會把驗證集一起過擬合。

### 中英對照與常見說法

| 說法 | 出現場合 |
| --- | --- |
| 超參數調校、超參數調整 | 台灣正式用語 |
| 超参数调优、超参数调整 | 簡體寫法 |
| Hyperparameter Tuning / Hyperparameter Optimization | 英文原名 |
| 調參 | 最常見的口語說法 |
| HPO | 縮寫 |

### 四種搜尋策略

| 方法 | 怎麼決定下一組 | 適合 |
| --- | --- | --- |
| 網格搜尋（grid search） | 事先列出所有組合逐一試 | 超參數少（兩三個）、範圍明確 |
| 隨機搜尋（random search） | 從分布隨機抽 | 預設選擇，相同預算下通常勝過網格搜尋 |
| 貝氏最佳化 | 用過去結果建代理模型，挑最有希望的 | 單次訓練很貴、評估次數有限 |
| Hyperband / ASHA | 先給每組少量資源，早期淘汰表現差的 | 訓練可以中途評估、能大量平行 |

> **隨機搜尋為什麼常常勝過網格搜尋**：多數超參數其實不重要，只有少數幾個有影響。網格搜尋在不重要的維度上浪費了大量組合，隨機搜尋則能在重要的維度上取到更多不同的值。

### 該調什麼，順序是什麼

> **先調學習率**。它的影響通常比其他所有超參數加起來還大。用學習率範圍測試找到損失下降最陡的那一段，比盲目搜尋快得多。
>
> **接著調正則化強度**（權重衰減、dropout 比例）與**批次大小**。批次大小改了學習率通常要跟著改，兩者要一起看。
>
> **架構類參數（層數、寬度）擺最後**，因為改了之後前面調好的東西都要重來。
>
> **範圍要用對的尺度。** 學習率、正則化係數這類跨數量級的參數要在對數尺度上取樣，線性取樣會把絕大多數樣本浪費在同一個數量級裡。

### 最容易犯的三個錯

> **拿測試集調參。** 調參一定要用驗證集。用測試集調，最終回報的分數就不再是對未知資料的誠實估計，而是一個被最佳化過的數字。
>
> **調參預算花在錯的地方。** 資料品質、特徵設計、標籤正確性對結果的影響常常遠大於調參。模型明顯欠擬合或資料明顯有問題的時候，調參是最沒有效率的一步。
>
> **忽略隨機性。** 同一組超參數換個隨機種子跑，結果可能差一截。差異很小的兩組超參數，分數差距若在隨機波動範圍內，就不該宣稱哪一組比較好。判斷方式是把最佳那組用不同種子多跑幾次，看變異有多大。

### 情境判斷

> **Q1：** 你有很多參數要調，還會先用哪種搜尋法？
> → 常先考慮隨機搜尋，再視情況看貝氏最佳化。
>
> **Q2：** 你只有少數幾個參數，每個可選值都不多，哪種方法比較直觀？
> → 網格搜尋會比較直觀。
>
### 常見問題

> **Q：為什麼要調校？**
> 因為同樣的模型，不同設定可能差很多。
>
> **Q：怎麼避免過度擬合驗證集？**
> 可以用交叉驗證，或保留最終測試集不要一直看。
>
> **Q：調校一定要很久嗎？**
> 通常要花時間，所以常要在效果和成本間取捨。
>
### 相關術語

> - **超參數**：先知道有哪些可調項目，才知道怎麼調校
> - **驗證資料集**：調校時最重要的評分依據
> - **網格搜尋**：最直觀的調參方法
> - **隨機搜尋**：比網格更省成本的常見替代方案
> - **貝氏最佳化**：較進階的搜尋方法，適合複雜空間

---

來源：https://aiterms.tw/terms/hyperparameter-tuning
快查頁：https://aiterms.tw/terms/hyperparameter-tuning
最後更新：2026/07/29
深度解說：https://aiterms.tw/learning/what-is-hyperparameter-tuning