---
title: "個人偏好對齊（Your Preference）"
slug: your-preference
language: zh-TW
source: https://aiterms.tw/terms/your-preference
updated_at: 2026-07-30
tags: [個人化AI, AI對齊, 用戶偏好, 推薦系統, RLHF, 人機互動]
ipas_term: false
---

# 個人偏好對齊（Your Preference）

根據用戶的個別偏好、歷史互動與明確反饋動態調整 AI 系統行為的個人化對齊技術。

## 完整說明

個人偏好對齊（Your Preference，或稱個性化偏好學習）是 AI 系統設計中的一項機制，旨在讓 AI 根據個別用戶的獨特需求、過去互動記錄、明確指令或隱式行為信號，調整其回應風格、內容選擇與行為模式，從而提供更符合個別使用者期望的個人化體驗。這一概念在推薦系統、對話 AI 與 AI 對齊研究中均有體現。

## 常見問題

### AI 系統如何在不明確詢問的情況下推斷用戶偏好？

AI 系統推斷隱式用戶偏好的方式主要有幾種。一是行為模式分析：觀察用戶對不同類型回應的後續行為：是繼續追問、要求重新生成、還是直接結束對話。要求重新生成通常是對回應不滿意的信號，而持續的深度追問則暗示用戶對該風格的接受度。二是語言風格推斷：從用戶的措辭、使用的術語層次、問題的細節程度推斷其專業背景與期望的回應深度。使用技術術語的用戶通常期望對等深度的技術回應。三是對話歷史累積：記錄歷次互動中用戶的正向與負向反應，逐步建立用戶的偏好輪廓。這需要跨對話的記憶機制，是目前商業 AI 助理中的核心競爭功能之一。

### 個人偏好對齊是否會讓 AI 系統陷入「只說用戶想聽的」的陷阱？

這是個人偏好對齊設計中最重要的倫理問題之一，被稱為「奉承偏差（Sycophancy）」問題。如果 AI 系統過度優化用戶的即時滿意度（expressed preference），它可能學習到告訴用戶想聽的話比告訴用戶真實的資訊能獲得更高評分，進而形成只強化既有觀點的「回聲室效應」。負責任的個人偏好對齊系統需要在三層偏好之間取得平衡：用戶的表面偏好（今天想聽什麼）、深層偏好（長期真正需要什麼）、以及客觀準確性。設計上通常需要明確限制個性化對事實準確性的影響範圍：用戶偏好可以決定回應風格與深度，但不能讓系統為了迎合而陳述不實資訊。

### 個人偏好對齊系統儲存用戶偏好資料時，應該注意哪些隱私問題？

個人偏好資料具有高度的隱私敏感性，因為偏好模式可以間接揭示用戶的健康狀況、政治立場、財務狀況、人際關係等私密資訊。設計時需要注意以下幾點。資料最小化原則：只儲存對個性化有必要的偏好資訊，不因為「可能有用」就無限積累用戶資料。知情同意：用戶應知道系統記錄了哪些偏好資訊，並有查看、修改、刪除的權利。儲存安全：偏好資料應加密儲存，並與帳號資訊的存取控制分離管理。使用目的限制：偏好資料只能用於改善對該特定用戶的服務，不得用於廣告定向或轉售給第三方。這些原則與 GDPR 的資料保護要求高度一致。

---

來源：https://aiterms.tw/terms/your-preference
快查頁：https://aiterms.tw/terms/your-preference
最後更新：2026/07/30
深度解說：https://aiterms.tw/learning/what-is-your-preference