解析:
微調是遷移學習的核心方法,在已有的預訓練模型基礎上,使用相對少量的特定領域或任務資料進行額外訓練,讓模型適應目標任務。這比從頭訓練效率高出數個量級。
微調是在預訓練模型的基礎上,使用特定領域或任務的資料進行額外訓練,使模型在目標任務上達到更好表現的技術。|本頁含完整原理、應用場景、iPAS 考試重點與 2 個常見問答。
搜尋意圖: 如果你在找「微調 是什麼」、「微調 會怎麼考」或「微調 和相近概念差在哪」,先看這頁的定義、考點定位與延伸比較。
TL;DR: 微調是在預訓練模型的基礎上,使用特定領域或任務的資料進行額外訓練,使模型在目標任務上達到更好表現的技術。
實用情境: 適合用在 iPAS 複習、面試快查與閱讀 AI 文章時快速校正概念邊界。
下一步: 先讀完定義,再往下看範例考題與延伸比較,把概念轉成可作答的判斷。
微調是在預訓練模型的基礎上,使用特定領域或任務的資料進行額外訓練,使模型在目標任務上達到更好表現的技術。
微調(Fine-tuning)是遷移學習的核心方法之一。預訓練模型(如 GPT、BERT)在通用大規模語料上學習了廣泛的語言知識,微調則是用相對少量的特定資料,在此基礎上調整模型參數,使其適應特定任務。常見的微調方法包括:全量微調(Full Fine-tuning,調整所有參數)、LoRA(Low-Rank Adaptation,僅調整低秩矩陣)、指令微調(Instruction Tuning,用問答對訓練模型遵循指令)、RLHF(基於人類回饋的強化學習,讓模型符合人類偏好)。微調大幅降低了部署 AI 的門檻,企業無需從頭訓練模型即可獲得客製化的 AI 能力。
微調 屬於 中頻 範圍,建議和相關概念一起複習,而不是只背單一名詞定義。
常見一起複習的方向包含:微調與預訓練的差異、常見微調方法比較、微調的應用場景。
從頭訓練需要大量資料和算力來建立模型的基礎能力。微調則是站在預訓練模型的「肩膀上」,只需少量資料和算力即可讓模型適應特定任務,效率高出數個量級。
需要改變模型的行為風格或專業能力時用微調;需要讓模型存取最新或特定知識時用 RAG。兩者也可搭配使用,先微調再加上 RAG。
關於微調(Fine-tuning)的描述,下列何者正確?
解析:
微調是遷移學習的核心方法,在已有的預訓練模型基礎上,使用相對少量的特定領域或任務資料進行額外訓練,讓模型適應目標任務。這比從頭訓練效率高出數個量級。
LoRA(Low-Rank Adaptation)是哪種類型的微調技術?
解析:
LoRA 的核心概念是在原始模型的權重矩陣旁,插入一對低秩(Low-Rank)的可訓練矩陣。訓練時只更新這些小矩陣,原始模型參數保持不變,大幅減少了需要訓練的參數量和算力需求。
想測試你對 微調 的掌握程度? 開始模擬考