AI 術語詞典

T5 (Text-to-Text Transfer Transformer) 是一種將所有 NLP 任務轉換為文本到文本格式的轉換器模型，簡化了模型訓練和應用。

透過調整溫度參數，控制語言模型生成文本的隨機程度和多樣性。溫度越低生成越確定，溫度越高生成越隨機。

將單個張量（矩陣或更高維數組）的計算分割到多個 GPU 設備上，通過跨設備並行計算矩陣乘法等操作的分佈式訓練方法。

指引AI模型生成內容的文字指令或問題，是與生成式AI互動的核心方式。

文本摘要是自然語言處理中的一項任務，旨在從一篇或多篇文章中生成簡潔且信息豐富的摘要。分為抽取式和生成式兩種方法。

AI 模型透過顯式的中間推理步驟（思維鏈）將複雜問題拆解為可逐步解決的子問題，以提升多步推理任務準確率的方法。

符記是大型語言模型處理文字時，不可分割的最小單位，它可以是一個字、詞，或者更小的子詞

工具使用能力是指大型語言模型利用外部工具（例如API、資料庫）來擴展其功能，完成更複雜任務的能力。

為降低自注意力複雜度的技術。透過僅保留分數最高的前 K 個鍵值對參與計算，有效減少記憶體與運算開銷。

限制每次詞彙選擇只從機率最高的 k 個候選詞彙中進行隨機採樣，減少低機率詞彙被錯誤選中的風險。