AI 術語詞典

摘要生成技術利用AI理解原文，並以新的句子和詞彙生成摘要，更接近人類的摘要方式，但實現難度較高。

指代消解是自然語言處理中的一項任務，旨在確定文本中代詞或其他指稱語所指代的先行詞，以理解文本的完整含義。

注意力圖是注意力機制的內部權重視覺化表示，呈現模型在處理序列資料時，各個元素之間的相互關注程度與依賴關係。

注意力可視化是一種技術，用於呈現神經網路模型在處理輸入時，將注意力集中在哪些部分。它能幫助理解模型決策過程，並診斷潛在問題。

能同時處理序列的前向和後向上下文，在每個位置都能看到完整序列信息的神經網路編碼器，相比單向模型提供更豐富的上下文表示，是 BERT 等預訓練模型的核心。

BM25 (Best Matching 25) 是一種用於資訊檢索的排序函數，它基於詞頻和逆文檔頻率，並考慮了文檔長度的影響，以提高檢索的準確性。

思維鏈提示是一種Prompt工程技術，透過引導模型逐步推理，提升複雜問題的解答品質與可解釋性。

聊天機器人是一種能模擬人類對話的電腦程式，透過文字或語音與使用者互動，提供資訊、協助解決問題或執行特定任務。

引文網路是將文獻作為節點、引用關係作為有向邊的圖結構，用於分析學術影響力與知識傳承脈絡。

CLIP (Contrastive Language-Image Pre-training) 是一種透過對比學習，將圖像與文字描述連結的模型，能進行零樣本圖像分類，無需針對特定任務重新訓練。

將句子分解為層級詞組結構，建構樹形解析樹以顯示詞語與詞組的組成與支配關係。

內容生成是指使用人工智慧技術自動創建文字、圖像、音訊或影片等內容的過程，旨在降低內容創作成本並提高效率。

AI 模型在生成回應或進行預測時，所能參考與記憶的輸入資訊範圍及歷史對話內容。

上下文窗口是指，大型語言模型一次性能處理的最大 Token 數量，超過此限制模型便會遺忘先前的內容

Copilot 是一個 AI 程式碼助手，透過分析程式碼上下文，提供程式碼建議、自動完成和程式碼生成，提升開發效率。

自動識別文本中指稱相同實體的不同表達式（如代詞、定指表達式），並將其分組聚集的任務。

共指解析是自然語言處理中的一項任務，旨在識別文本中指向同一個實體的不同提及（mentions），例如代詞、名詞短語等。

語料庫是大量結構化的文本集合，用於語言研究和自然語言處理，提供真實語言使用的範例，用於訓練和評估模型。

對話系統是一種能與人類進行自然語言互動的AI系統，目標是理解使用者意圖並提供適當的回應，完成特定任務或提供資訊。

將擴散模型的去雜訊生成機制應用於文字序列生成的語言模型，透過迭代精化而非自回歸逐步生成文字。

將掃描或數位文檔轉換為結構化信息的技術，理解文檔內容、版面和邏輯關係。

嵌入矩陣是深度學習中將離散變數映射為連續稠密向量的權重矩陣，能有效捕捉詞彙或特徵間的語意與結構關聯性。

提取式摘要技術從原文中選擇重要句子組成摘要，簡單直接，易於實現，但可能缺乏連貫性，且無法進行語義概括。

閃電注意力機制是一種優化注意力計算的技術，透過重新排序計算步驟和利用硬體加速，大幅提升注意力計算的速度和記憶體效率。

頻率計數是計算特定事件、特徵或字詞在數據集中出現次數的統計方法，為資料分析與機器學習提供基礎特徵。

OpenAI 的自回歸語言模型，一個字接一個字生成文本，只使用 Decoder 架構

AI 幻覺是大型語言模型產生自信但事實錯誤或無中生有內容的現象，是 LLM 部署的主要風險

上下文學習理論指大型語言模型無需額外訓練，僅憑藉輸入提示中的範例，即可執行新任務的能力，展現了模型泛化的潛力。

知識庫是儲存結構化和非結構化知識的中央儲存庫，用於支援決策、自動化任務和提供資訊。

知識圖譜（Knowledge Graph）是以圖結構儲存實體（Entity）及其關係（Relation）的語意知識庫，透過「主體-關係-客體」三元組表示現實世界的知識，廣泛應用於搜尋引擎增強、問答系統

長距離依賴指資料序列中相距遙遠元素的關聯。捕捉此關聯是模型理解長篇上下文的核心。

遮蔽語言模型（MLM）是一種自監督學習方法，隨機遮蔽輸入文本的部分詞語，並訓練模型預測這些被遮蔽的詞語。

自然語言生成（NLG）是將結構化資料轉換為人類可理解的自然語言文本的AI技術，廣泛應用於報告生成、聊天機器人等。

自然語言推論是判斷前提句子是否能邏輯推導出假設句子的技術，協助機器理解語言的深層語意關係。

巢狀欄位是一種資料結構，指一個欄位內部包含其他子欄位，形成階層關係，常用於表示複雜或半結構化資料，提升資料組織與查詢效率。

研究語言在具體交流上下文中的使用方式與使用者意圖的語言學分支。

前綴調整法是一種參數高效的微調技術，通過在輸入序列前添加可訓練的前綴向量，來引導預訓練模型生成期望的輸出，同時保持原始模型參數凍結。

重排序模型是一種在初步檢索後，對候選結果進行重新排序的技術，旨在提升檢索結果的相關性和準確性，通常使用更複雜的模型。

自注意力是一種機制，讓序列中的每個元素計算彼此關聯度，藉此捕捉序列內部的依賴關係

深度學習中根據序列內不同位置的相關性動態分配權重的機制，通過計算查詢（Query）、鍵（Key）、值（Value）的交互，使模型能關注序列中任意位置的信息，無視距離限制。

自動識別句子中的謂詞與其論元，並為每個論元標注其語義角色（如施事者、受事者、地點）。

情感分析是一種自然語言處理技術，用於識別和提取文本中的主觀情感，例如正面、負面或中性情緒，應用於輿情監控、客戶回饋分析等。

使用編碼器-解碼器架構將一個序列轉換為另一個序列，廣泛應用於翻譯、文本摘要等。

詞幹提取是自然語言處理中將單詞簡化為其詞幹或詞根形式的過程，通常通過刪除後綴來實現。

次詞單元化是將單詞拆分為更小的子單元（次詞）的技術，用於解決詞彙量過大和未登錄詞（OOV）問題，提升模型泛化能力。

系統提示詞是用於引導大型語言模型行為的初始指令，影響模型的回應風格、知識範圍和任務執行方式。

衡量一個詞對文件的重要性：在這篇文件中出現多（TF 高）但在其他文件中少見（IDF 高）的詞最重要

文字生成音訊（Text-to-Audio）是把一段文字描述直接轉成聲音的生成式 AI 技術，產出的是音樂、音效或環境音，不是唸稿的人聲。它跟文字轉語音（Text-to-Speech）最大的差別，在於生成的是整個聲音場景，還是單純的說話聲。

文本蘊含是判斷一段前提文本是否能邏輯推導出另一段假設文本的自然語言處理任務，廣泛應用於問答系統與事實查核。

WaveNet是一種深度生成模型，直接對原始音訊波形進行建模，能夠生成高品質的語音和音樂，並在語音合成領域取得了顯著的成果。