---
title: "深度Q網路（Deep Q-Network）"
slug: deep-q-network
language: zh-TW
source: https://aiterms.tw/terms/deep-q-network
updated_at: 2026-04-29
tags: [機器學習, 深度學習, 強化學習, 神經網路, 模型訓練, 最佳化, AI應用, Python程式, iPAS中級]
ipas_term: false
---

# 深度Q網路（Deep Q-Network）

> **你玩遊戲時，AI 怎麼學會哪一步最划算？**
> 你可以把 深度Q網路 想成一個邊試錯邊學最划算動作的系統。
> 它其實就是把「做哪一步比較好」變成可計算的長期分數。
> 深度Q網路（DQN）是一種結合深度學習與Q學習的強化學習演算法，利用深度神經網路逼近Q函數，解決高維度狀態空間的強化學習問題。當環境會回饋獎勵，而且每一步都會影響後面結果時，這類方法特別有用。

### 容易混淆
> **vs 傳統Q學習**
> 傳統Q學習像在紙上畫表格來記住每個狀況的「最佳動作」，表格太大就記不住；DQN 則是用「腦袋」來歸納，能處理更複雜的遊戲。
>
> **深度學習 vs 強化學習**
> 深度學習 比較像同一類問題裡的近鄰參考，強化學習 則更像把資料或結構往更深一層整理，兩者的用法不一樣。
>
> **最關鍵的區別：** 先看它是在做「理解、生成、分組、保護」哪一件事，再看細節。

### 記住這句就好
> 用神經網路近似每個動作的長期價值

### 實際案例
> **案例一：深度Q網路 玩 Atari 遊戲**
> 智能體看到畫面後選擇動作，分數高就把這條路記住，分數低就往別的策略試，DQN 就是這種學法的代表。
>
> **案例二：深度Q網路 控制機器人手臂**
> 機器人要決定往哪裡移、抓多快、停多久，動作會連鎖影響後面的回饋，這時候就需要長期獎勵的觀念。

### 深入了解
> 強化學習看的是狀態、動作、獎勵和下一步狀態，目標是把長期回報做大
> DQN 用神經網路近似價值函數，解決狀態太大、表格塞不下的問題
> 如果獎勵設計不好，再強的模型也會學歪
>
> 深度Q網路 真正重要的，不是名詞本身，而是它幫你解決的是哪一類問題。

### 情境判斷
> **Q1（直覺題）：** 在遊戲或控制問題裡，AI 需要靠試錯學最佳動作嗎？
> → 需要，這正是強化學習最典型的場景。
>
> **Q2（判斷題）：** 如果每一步的獎勵都很稀疏，還適合直接用 DQN 嗎？
> → 看情況，因為稀疏獎勵會讓學習變慢，這時候可能要改獎勵設計、加探索策略，甚至換成其他強化學習方法。
>
### 常見問題
> **Q：DQN和傳統Q學習有什麼區別？**
> 傳統Q學習使用表格來儲存Q值，這在高維度狀態空間中不可行。DQN使用深度神經網路來近似Q函數，使其能夠處理高維度狀態空間。此外，DQN使用經驗回放和目標網路來提高訓練的穩定性。
>
> **Q：DQN中的經驗回放機制有什麼作用？**
> 經驗回放機制儲存智能體的經驗，並從回放緩衝區中隨機抽樣經驗用於訓練。這有助於打破經驗之間的相關性，減少訓練過程中的震盪，並提高學習的穩定性。它也允許重複利用過去的經驗，提高樣本效率。
>
> **Q：如何選擇DQN的超參數，例如學習率和折扣因子？**
> DQN的超參數選擇通常需要進行實驗和調整。學習率控制權重更新的幅度，折扣因子控制未來獎勵的重要性。可以使用網格搜索或隨機搜索等技術來找到最佳的超參數組合。也可以參考相關文獻中常用的超參數設定。
>
### 相關術語
> - **深度學習**：讀完這個再看它，可以把上下游概念串起來
> - **強化學習**：讀完這個再看它，可以把上下游概念串起來
> - **馬可夫決策過程**：讀完這個再看它，可以把上下游概念串起來
> - **獎勵函數**：讀完這個再看它，可以把上下游概念串起來
> - **探索與利用**：讀完這個再看它，可以把上下游概念串起來

---

來源：https://aiterms.tw/terms/deep-q-network
快查頁：https://aiterms.tw/terms/deep-q-network
最後更新：2026/04/29
深度解說：https://aiterms.tw/learning/what-is-deep-q-network