--- title: "留一法交叉驗證（Leave-One-Out Cross Validation）" slug: leave-one-out-cross-validation language: zh-TW source: https://aiterms.tw/terms/leave-one-out-cross-validation updated_at: 2026-06-22 tags: [機器學習, 統計方法, 模型評估] ipas_term: false --- # 留一法交叉驗證（Leave-One-Out Cross Validation） 留一法交叉驗證是一種極端形式的交叉驗證，每次訓練模型時排除一個資料點，並用該點進行測試，重複此過程直到每個資料點都被用作測試集一次，以評估模型性能。 ## 完整說明 留一法交叉驗證（LOOCV）是一種特殊的交叉驗證技術，每次迭代時，它會將單一資料點作為驗證集，而將其餘所有資料點作為訓練集來訓練模型。這個過程會對資料集中的每個資料點重複執行，最終將所有單次驗證的結果平均，以獲得對模型泛化能力的估計。它主要用於評估模型在小規模資料集上的穩定性和偏差，常見應用包括生物統計學、藥物研發或任何資料稀缺的領域。 ## 常見問題 ### LOOCV的優點和缺點是什麼？ LOOCV 的主要優點在於其對模型性能估計的**低偏差**和**高資料利用率**。由於每次訓練模型都使用了幾乎所有的資料點（N-1 個），訓練出的模型與在整個資料集上訓練的最終模型非常相似，因此其對泛化能力的估計偏差極小，能夠提供對模型真實性能的相對準確預測。同時，每個資料點都有機會作為測試集被評估一次，確保了資料的充分利用。然而，LOOCV 也存在顯著的缺點。最突出的是**極高的計算成本**，因為它需要訓練 N 個模型，對於大型資料集而言是難以承受的。此外，LOOCV 估計的性能往往具有**較高的方差**。由於每次訓練集都高度相似，且測試集只有一個點，如果這個測試點恰好是異常值或邊界情況，可能會導致單次評估結果波動較大，進而使得平均性能估計對資料集的微小變化敏感，穩定性不如 K-fold 交叉驗證。因此，LOOCV 適用於資料稀缺且對偏差要求極低的特定場景。 ### 什麼情況下應該優先考慮使用LOOCV？ 優先考慮使用 LOOCV 的情況通常滿足以下幾個條件：首先，**資料集非常小且珍貴**。當樣本數量有限（例如幾十到幾百個）時，LOOCV 能夠最大化地利用每一筆資料進行訓練，避免因資料分割導致訓練不足的問題，從而獲得更可靠的性能估計。這在醫學研究、生物資訊學或材料科學等領域尤為常見，這些領域的數據獲取成本高昂。其次，當**對模型性能估計的偏差要求極低**時，LOOCV 是理想選擇。由於其訓練集與完整資料集幾乎相同，它能提供對模型泛化能力幾乎無偏的估計，這對於高風險決策系統或需要極高可信度評估的應用至關重要。再者，**計算資源允許且模型訓練時間相對較短**也是考量因素。如果單個模型訓練時間不長，即使需要訓練 N 次，總體時間仍在可接受範圍內，那麼 LOOCV 的優勢就能被充分發揮。最後，在**模型選擇或超參數調整的早期階段**，對於小型資料集，LOOCV 可以提供一個穩定的性能指標，幫助研究人員做出更明智的決策。 ### LOOCV是否會導致模型過度擬合？ LOOCV 本身作為一種**模型評估方法**，其目的在於評估模型在未見過資料上的泛化能力，而非直接導致模型過度擬合。過度擬合是模型在訓練資料上表現良好，但在新資料上表現差的現象，這主要與模型的複雜度、訓練資料量以及訓練過程有關。LOOCV 旨在提供對泛化誤差的無偏估計，它通過在幾乎完整的資料集（N-1 個樣本）上訓練模型，並在單一剩餘樣本上測試，來模擬模型在真實世界中的表現。由於每次訓練集都非常接近整個資料集，LOOCV 估計的偏差很小。然而，LOOCV 確實存在**高方差**的問題。這意味著雖然它能提供一個低偏差的平均性能估計，但這個估計值可能對資料集的微小變化敏感。如果模型本身容易過度擬合，LOOCV 可能會給出過於樂觀的單點測試結果，因為每次測試點都相對孤立，且訓練集包含了幾乎所有其他資訊。但從整體平均來看，LOOCV 仍然比單次訓練/測試分割更能反映模型的泛化能力，因為它系統性地利用了所有資料點進行評估。因此，LOOCV 不會直接導致過度擬合，但其高方差特性可能會在某些情況下掩蓋模型潛在的過度擬合風險，需要結合其他評估指標和方法綜合判斷。 --- 來源：https://aiterms.tw/terms/leave-one-out-cross-validation 快查頁：https://aiterms.tw/terms/leave-one-out-cross-validation 最後更新：2026/06/22 深度解說：https://aiterms.tw/learning/what-is-leave-one-out-cross-validation