---
title: "普通最小平方法（OLS）"
slug: ols
language: zh-TW
source: https://aiterms.tw/terms/ols
updated_at: 2026-06-22
tags: [統計方法, 線性回歸, 機器學習基礎, iPAS中級, 估計量, 計量經濟]
ipas_term: false
---

# 普通最小平方法（OLS）

透過最小化殘差平方和來估計線性回歸模型係數的統計方法。

## 完整說明

普通最小平方法（Ordinary Least Squares，OLS）是線性回歸分析中最基礎的參數估計方法。它透過尋找一條最佳擬合線，使所有觀測值與預測值之間的殘差（誤差）平方和最小化，從而得到無偏且具有最小變異數的估計量。在滿足高斯-馬可夫假設的條件下，OLS 是線性無偏估計量中變異數最小的方法（BLUE）。

## 常見問題

### OLS 與梯度下降求解線性回歸有什麼差異？

OLS 提供線性回歸的解析解（closed-form solution），透過矩陣運算直接求得最佳係數，計算精確且不需要調整學習率或迭代次數。梯度下降則是一種數值優化方法，通過反覆更新參數來逼近最小值，適合資料量龐大到無法直接進行矩陣求逆的場景（矩陣求逆的時間複雜度為 O(p³)，p 為特徵數）。在資料量與特徵數量適中時，OLS 解析解通常更快也更精確；當特徵維度極高或資料量極大時，梯度下降（尤其是隨機梯度下降 SGD）則是更實用的選擇。

### 為什麼 OLS 最小化殘差平方和而不是殘差的絕對值之和？

最小化殘差平方和（L2 損失）相較於最小化殘差絕對值之和（L1 損失）有幾個數學優勢：首先，L2 損失處處可微，使得對目標函式求導並得到解析解成為可能；其次，較大的殘差在平方後被放大，使模型對異常值更加敏感，同時也促使模型盡力解釋所有資料點。相比之下，L1 損失（對應中位數回歸或 LAD 回歸）對異常值更穩健，但沒有封閉解析解，需要數值優化。在資料不含嚴重異常值且誤差近似常態分佈的情況下，OLS（L2）是統計性質更優的選擇。

### 當資料存在多元共線性時，OLS 會有什麼問題？

多元共線性（Multicollinearity）指自變數之間存在高度線性相關，這會導致 OLS 出現以下問題：一是設計矩陣 XᵀX 接近奇異（singular），使得矩陣求逆不穩定，係數估計的變異數急劇膨脹；二是各自變數的係數估計值會高度不穩定，微小的資料變動就可能導致係數大幅改變；三是 t 統計量變小，造成本應顯著的變數無法通過顯著性檢驗。診斷工具包括變異數膨脹因子（VIF）：VIF > 10 通常視為嚴重共線性。解決方案包括去除冗餘變數、做主成分分析（PCA）降維，或改用嶺回歸（Ridge Regression）加入 L2 正規化項以穩定係數估計。

---

來源：https://aiterms.tw/terms/ols
快查頁：https://aiterms.tw/terms/ols
最後更新：2026/06/22
深度解說：https://aiterms.tw/learning/what-is-ols