探索與利用 Exploration vs Exploitation 探索與利用是強化學習中的權衡,探索是指嘗試新動作以發現潛在的更好策略,利用是指使用已知最佳策略以獲得最大獎勵。 強化學習最佳化AI基礎 探索與利用 是什麼?→
學習率預熱 Learning Rate Warmup 訓練初期逐漸增加學習率,避免初始化不佳導致的訓練不穩定,通常在前幾個 epoch 內從 0 線性增加到目標值。 模型訓練最佳化神經網路 學習率預熱 是什麼?→