---
title: "規模定律（Scaling Law）"
slug: scaling-law
language: zh-TW
source: https://aiterms.tw/terms/scaling-law
updated_at: 2026-04-29
tags: [機器學習, 深度學習, 模型訓練, 模型評估, 大型語言模型, AI基礎, 統計方法]
ipas_term: false
---

# 規模定律（Scaling Law）

> **你有沒有注意到，模型和資料越堆越大，表現通常也跟著變好？**
>
> 你可以把規模定律想成一條經驗曲線，告訴你模型、資料和算力加大時，效果大概怎麼變。
>
> 它重要是因為團隊可以拿它來估算投入資源後的回報，而不是只靠感覺做決策。
>
> 你可以把它想成一個把抽象概念拉回日常判斷的提示，先知道它解決什麼問題，再看技術細節。

### 容易混淆

> **規模定律 vs 邊際效益遞減**
>
> 規模定律是在描述整體趨勢
> 邊際效益遞減是在說越往後每次加碼回報變小
> 最關鍵的區別是經驗關係和經濟直覺。
>
> **規模定律 vs 湧現能力**
>
> 規模定律看的是連續變化
> 湧現能力看的是某些能力突然出現
> 最關鍵的區別是平滑成長還是跨門檻跳變。
>

### 記住這句就好

> 模型、資料、算力一起長大，效果通常也跟著變。

### 實際案例

> **訓練預算規劃**
> 團隊可以先用小實驗去擬合規模定律，再決定要不要把算力投到更大的模型。
>
> **資料量決策**
> 如果模型已經快被算力卡住，就不一定只加參數，還要一起看資料和訓練方式。
>

### 算法與應用

> 規模定律通常不是嚴格定律，而是大量實驗下的經驗觀察。
> 它幫助人們在模型大小、資料量和算力之間找平衡。
> 資料品質、架構和訓練方法一變，曲線也可能跟著變。

### 情境判斷

> **Q1（直覺題）：如果你想估算把模型做大一倍後會發生什麼，會先想到什麼概念？**
>
> → 很常會想到規模定律。
>
> **Q2（判斷題）：只要照著規模定律擴大模型，就一定會有穩定提升嗎？**
>
> → 不一定。它只是經驗趨勢，資料品質和訓練策略一變，結果也會變。
>

### 常見問題

> **Q：規模定律的局限性是什麼？**
> A：它不是普遍真理，只是在某些模型和任務上很有用的經驗關係。
>
> **Q：如何用規模定律來優化訓練？**
> A：常見做法是用小規模結果擬合趨勢，再反推資源怎麼分配。
>
> **Q：規模定律對 AI 發展有什麼意義？**
> A：它讓人能更有系統地規劃模型、資料和算力，而不是只靠猜。
>

### 相關術語

> - **大型語言模型**：RAG 最常被拿來加強大型語言模型。
> - **基礎模型**：規模定律常拿它做背景。
> - **湧現能力**：規模定律和它常被放在一起看。
> - **運算最佳訓練**：規模、資料和算力分配會用到它。
> - **金吉拉縮放**：它是規模定律和資料分配討論裡的常見名詞。

---

來源：https://aiterms.tw/terms/scaling-law
快查頁：https://aiterms.tw/terms/scaling-law
最後更新：2026/04/29
深度解說：https://aiterms.tw/learning/what-is-scaling-law