KL散度 KL Divergence KL散度(Kullback-Leibler Divergence)衡量兩個機率分佈的差異,數值越大代表分佈差異越大,常用於評估模型預測分佈與真實分佈的接近程度。 機器學習深度學習模型評估 KL散度 是什麼?→
知識蒸餾 Knowledge Distillation 知識蒸餾是一種模型壓縮技術,透過讓小模型模仿大模型的輸出,使其在保有精準度的同時,大幅縮減模型體積 深度學習模型訓練模型部署 知識蒸餾 是什麼?→