鞍點 Saddle Point
函數曲面上在某方向為局部最大值，在另一方向為局部最小值之點，形似馬鞍。在最佳化中，理解收斂行為的關鍵概念。
最佳化模型訓練神經網路
AI 術語詞典
瀏覽 AITerms.tw 中標籤為「最佳化」的 AI 術語，快速找到定義、FAQ 與 iPAS 考試重點。
S
10 個術語自我對弈 Self-play
自我對弈是一種強化學習技術，其中智能體與自身的副本進行對弈，從而學習和改進策略，無需外部人類或標記數據。
強化學習模型訓練最佳化
序列比對 Sequence Alignment
序列比對是計算生物學技術，用於找出生物序列間的相似區域，揭示演化關係或功能同源性。
資料處理統計方法最佳化
影子部署 Shadow Deployment
影子部署是一種零風險的部署方式，新版本與舊版本同時運行，使用者只看到舊版本的結果，新版本的預測結果被記錄但不返回，用於離線評估新版本的實際性能。
模型部署MLOps最佳化
稀疏注意力機制 Sparse Attention
稀疏注意力機制是一種減少注意力機制計算複雜度的技術，透過只關注輸入序列中的部分元素，降低運算量，提升模型效率。
機器學習深度學習自然語言處理
稀疏性約束 Sparsity Constraint
iPAS稀疏性約束是一種在機器學習中，強制模型參數或內部表示包含更多零值的正則化技術，以降低運算成本。
機器學習模型訓練最佳化
推測解碼 Speculative Decoding
推測解碼是一種加速大型語言模型推論速度的技術，透過小型模型預測多個token，再由大型模型驗證，減少計算量。
大型語言模型模型訓練模型部署
競價型訓練 Spot Instance Training
競價型訓練利用閒置的雲端運算資源，以大幅降低模型訓練成本，但可能因資源回收而中斷。
模型訓練最佳化機器學習
隨機梯度下降 Stochastic Gradient Descent
隨機梯度下降（SGD）是一種迭代優化算法，用於最小化目標函數。它每次迭代僅使用一個或少量樣本計算梯度，加速訓練過程，但可能導致收斂不穩定。
機器學習深度學習模型訓練
支持向量機 Support Vector Machine
支持向量機是一種機器學習模型，透過尋找最大邊界的超平面，將不同類別的資料有效分隔
機器學習模型訓練統計方法