?第一篇 深度學習導論

第1 章 深度學習（Deep Learning）導論

▍1-1 人工智慧的三波浪潮

▍1-2 人工智慧的未來趨勢

▍1-3 AI 的學習地圖

▍1-4 機器學習應用領域

▍1-5 機器學習開發流程

▍1-6 開發環境安裝

▍參考資料（References）



第2 章 神經網路（Neural Network）原理

▍2-1 必備的數學與統計知識

▍2-2 線性代數（Linear Algebra）

2-2-1 向量（Vector）

2-2-2 矩陣（Matrix）

2-2-3 聯立方程式求解

▍2-3 微積分（Calculus）

2-3-1 微分（Differentiation）

2-3-2 微分定理

2-3-3 偏微分（Partial Differentiation）

2-3-4 線性迴歸求解

2-3-5 積分（Integration）

▍2-4 機率（Probability）與統計（Statistics）

2-4-1 資料型態

2-4-2 抽樣（Sampling）

2-4-3 基礎統計（Statistics Fundamentals）

2-4-4 機率（Probability）

2-4-5 機率分配（Distribution）

2-4-6 假設檢定（Hypothesis Testing）

2-4-7 小結

▍2-5 線性規劃（Linear Programming）

▍2-6 最大概似法（MLE）

▍2-7 神經網路（Neural Network）求解

2-7-1 神經網路（Neural Network）

2-7-2 梯度下降法（Gradient Descent）

2-7-3 神經網路求解

▍參考資料（References）



?第二篇 TensorFlow 基礎篇

第3 章 TensorFlow 架構與主要功能

▍3-1 常用的深度學習套件

▍3-2 TensorFlow 架構

▍3-3 張量（Tensor）運算

▍3-4 自動微分（Automatic Differentiation）

▍3-5 神經層（Neural Network Layer）

▍參考資料（ References）



第4 章 神經網路實作

▍4-1 撰寫第一支神經網路程式

4-1-1 最簡短的程式

4-1-2 程式強化

4-1-3 實驗

▍4-2 Keras 模型種類

4-2-1 順序型模型（Sequential Model）

4-2-2 Functional API

▍4-3 神經層（Layer）

4-3-1 完全連接神經層（Dense Layer）

4-3-2 Dropout Layer

▍4-4 激勵函數（Activation Function）

▍4-5 損失函數（Loss Functions）

▍4-6 優化器（Optimizer）

▍4-7 效能衡量指標（Performance Metrics）

▍4-8 超參數調校（Hyperparameter Tuning）

▍參考資料（ References）



第5 章 TensorFlow 常用指令與功能

▍5-1 特徵轉換

▍5-2 模型存檔與載入（Model Saving and Loading）

▍5-3 模型彙總與結構圖（Summary and Plotting）

▍5-4 回呼函數（Callbacks）

5-4-1 EarlyStopping Callback

5-4-2 ModelCheckpoint Callback

5-4-3 TensorBoard Callback

5-4-4 自訂Callback

5-4-5 自訂Callback

5-4-6 取得優化器的學習率變化

5-4-7 小結

▍5-5 TensorBoard

5-5-1 TensorBoard 功能

5-5-2 測試

5-5-3 寫入圖片

5-5-4 效能調校（Performance Tuning）

5-5-5 敏感度分析（What-If Tool, WIT）

5-5-6 小結

▍5-6 模型佈署（Deploy）

5-6-1 網頁開發

5-6-2 桌面程式開發

▍5-7 TensorFlow Dataset

5-7-1 產生Dataset

5-7-2 圖像Dataset

5-7-3 TFRecord 與Dataset

5-7-4 TextLineDataset

5-7-5 Dataset 效能提升

▍參考資料（ References）



第6 章 卷積神經網路（Convolutional Neural Network）

▍6-1 卷積神經網路簡介

▍6-2 卷積（Convolution）

▍6-3 濾波器（Filter）

▍6-4 池化層（Pooling Layer）

▍6-5 CNN 模型實作

▍6-6 資料增補（Data Augmentation）

▍6-7 可解釋的 AI（ eXplainable AI, XAI）

▍6-8 卷積神經網路的缺點

▍參考資料（ References）



第7 章 預先訓練的模型（Pre-trained Model）

▍7-1 預先訓練模型的簡介

▍7-2 採用完整模型

▍7-3 採用部分模型

▍7-4 轉移學習（Transfer Learning）

▍7-5 Batch Normalization 說明

▍參考資料（ References）



?第三篇 進階的影像應用

第8 章 物件偵測（Object Detection）

▍8-1 圖像辨識模型的發展

▍8-2 影像金字塔與滑動視窗

▍8-3 方向梯度直方圖（HOG）

▍8-3 R-CNN 系列演算法

▍8-4 R-CNN 改良

▍8-5 YOLO 演算法簡介

▍8-6 YOLO 訓練與推論

▍8-7 YOLO 各項功能

▍8-8 圖像分類（Image Classification）

▍8-9 物件偵測（Object Detection）

8-9-1 YOLO 物件偵測（Object Detection）

8-9-2 TensorFlow Object Detection API

▍8-10 資料標記（Data Annotation）

▍8-11 物件偵測的效能衡量指標

▍8-12 實例分割（Instance Segmentation）

▍8-13 姿態辨識（Pose Estimation）

▍8-14 旋轉邊界框物件偵測（Oriented Bounding Boxes Object Detection）

▍8-15 物件追蹤（Object Tracking）

▍8-16 YOLO 測試心得

▍8-17 總結

▍參考資料（ References）



第9 章 生成式AI（Generative AI）

▍9-1 編碼器與解碼器（Encoder-decoder）

▍9-2 自動編碼器（AutoEncoder）

▍9-3 變分自編碼器（Variational AutoEncoder）

▍9-4 Conditional VAE

▍9-5 U-Net

▍9-6 風格轉換（Style Transfer） -- 人人都可以是畢卡索

▍9-7 快速風格轉換（Fast Style Transfer）

▍9-8 本章小結

▍參考資料（ References）



第 10 章 生成對抗網路（ GAN）

▍10-1 生成對抗網路介紹

▍10-2 生成對抗網路種類

▍10-3 DCGAN

▍10-4 Progressive GAN

▍10-5 Conditional GAN

▍10-6 Pix2Pix

▍10-7 CycleGAN

▍10-8 CartoonGAN

▍10-9 GAN 挑戰

▍10-10 深度偽造（Deepfake）

▍參考資料（ References）



第11 章 擴散模型（Diffusion Model）

▍11-1 擴散模型（Diffusion Model）原理

▍11-2 擴散模型（Diffusion Model）實作

▍11-3 MidJourney 簡介

▍11-4 Stable Diffusion 簡介

▍11-5 DreamStudio 使用

▍11-6 Stable Diffusion 本機安裝

▍11-7 Stable Diffusion API

▍11-8 Stable Diffusion Extension

▍11-9 ControlNet in Diffusers

▍11-10 NitroFusion

▍11-11 OpenAI DALL · E

▍11-12 本章小結

▍參考資料（ References）



第12 章 其他影像應用

▍12-1 臉部辨識（Facial Recognition）

▍12-2 臉部偵測（Face Detection）

▍12-3 MTCNN 演算法

▍12-4 臉部追蹤（Face Tracking）

▍12-5 臉部特徵點偵測

▍12-6 臉部驗證（Face Verification）

▍12-7 光學文字辨識（OCR）

▍12-8 EasyOCR

▍12-9 車牌辨識（ANPR）

▍12-10 影像去背（Background Removing）

▍12-11 本章小結

▍參考資料（ References）



?

前言



　　再版說明



　　初版至今已近3 年，其間AI 發展迅速，各項套件/ 演算法均有重大變革，例如大語言模型（LLM）、生成式AI（Generative AI）、Keras v3、YOLO v11、Gymnasium，全書實作的範例程式幾乎全部翻修，並新增更多應用程式，也包括更多的演算法說明，例如Transformer、Diffusion Model?等。



　　為何撰寫本書



　　從事機器學習教育訓練已近6 年，其間也在『IT 邦幫忙』撰寫100 多篇的文章（https://ithelp.ithome.com.tw/users/20001976/articles），從學員及讀者的回饋獲得許多寶貴意見，期望能將整個歷程集結成冊，同時，相關領域的進展也在飛速變化，過往的文章內容需要翻新，因此藉機再重整思緒，想一想如何能將演算法的原理解釋得更簡易清晰，協助讀者跨入AI 的門檻，另外，也避免流於空談，盡量增加應用範例，希望能達到即學即用，不要有過多理論的探討。



　　AI 是一個將資料轉化為知識的過程，演算法就是過程中的生產設備，最後產出物是模型，再將模型植入各種硬體裝置，例如電腦、手機、智慧音箱、自駕車、醫療診斷儀器、?等，這些裝置就擁有特殊專長的智慧，再進一步整合各項技術就構建出智慧製造、智慧金融、智慧交通、智慧醫療、智慧城市、智慧家庭、?等應用系統。AI 的應用領域如此的廣闊，個人精力有限，當然不可能具備十八般武藝，樣樣精通，惟有從基礎紮根，再擴及有興趣的領域，因此，筆者撰寫這本書的初衷，非常單純，就是希望讀者在紮根的過程中，貢獻一點微薄的力量。



　　本書主要的特點



　　由於筆者身為統計人，希望能『以統計/ 數學為出發點』，介紹深度學習必備的數理基礎，但又不希望內文有太多數學公式的推導，讓離開校園已久的在職者看到一堆數學符號就心生恐懼，因此，嘗試以『程式設計取代定理證明』，縮短學習歷程，增進學習樂趣。



　　TensorFlow 2.x 版有巨大的變動，預設模式改為Eager Execution，並以Keras 為主力，整合TensorFlow 其他模組，形成完整的架構，本書期望對TensorFlow/Keras 架構作完性的介紹。



　　演算法介紹以理解為主，輔以大量圖表說明，摒棄長篇大論。



　　完整的範例程式及各種演算法的延伸應用，以實用為要，希望能觸發讀者靈感，能在專案或產品內應用。



　　介紹日益普及的演算法與相關套件的使用，例如YOLO（物件偵測）、GAN（生成對抗網路）/DeepFake（深度偽造）、OCR（辨識圖像中的文字）、臉部辨識、BERT/Transformer、ChatBot、強化學習、自動語音辨識（ASR）等。



　　目標對象



　　深度學習的入門者：必須熟悉Python 程式語言及機器學習基本概念。



　　資料工程師：以應用系統開發為職志，希望能應用各種演算法，進行實作。



　　資訊工作者：希望能擴展深度學習知識領域。



　　從事其他領域的工作，希望能一窺深度學習奧秘者。



　　閱讀重點



　　第一章介紹AI 的發展趨勢，鑑古知今，瞭解前兩波AI 失敗的原因，比較第三波發展的差異性。



　　第二章介紹深度學習必備的統計/ 數學基礎，不僅要理解相關知識，也力求能撰寫程式解題。



　　第三章介紹TensorFlow/Keras 基本功能，包括張量（Tensor）運算、自動微分及神經網路模型的組成，並說明梯度下降法求解的過程。



　　第四章開始實作，依照機器學習10 項流程，撰寫完整的範例，包括Web、桌面程式。



　　第五章介紹TensorFlow 進階功能， 包括各種工具， 如TensorBoard、TensorFlow Serving、Callbacks。



　　第六~ 八章介紹圖像/ 視訊的演算法及各式應用。



　　第九~ 十一章介紹生成式AI，包括Encoder-decoder、生成對抗網路（GAN）及擴散模型（Diffusion Model），也說明Stable Diffusion 及Dall-E 實作。



　　第十二章介紹各種影像應用，包括臉部辨識、OCR、車牌辨識及圖像去背。



　　第十三~ 十四章介紹自然語言處理及各式應用。



　　第十五章介紹大型語言模型（Large Language Model, LLM），包括Transformer 演算法、ChatGPT 實作及企業導入實務。



　　第十六章介紹語音辨識的原理/ 演算法/ 實作/ 應用，包括OpenAI Whisper 實作及應用範例。



　　第十七章介紹強化學習（Reinforcement Learning, RL）的概念/ 演算法/ 實作/ 應用，包括Gymnasium、Stable Baselines3 套件實作及應用範例。



　　本書範例程式碼全部收錄在 github.com/mc6666/DL_Book2，還包括各章的參考資料及超連結，方便使用者複製。