深度學(xué)習(xí)之圖像識(shí)別：核心算法與實(shí)戰(zhàn)案例（全彩版）

第1章 神經(jīng)網(wǎng)絡(luò)與卷積神經(jīng)網(wǎng)絡(luò)基礎(chǔ) 1
1.1 神經(jīng)網(wǎng)絡(luò)的生物基礎(chǔ)與數(shù)學(xué)模型 1
1.1.1 神經(jīng)元 1
1.1.2 感知機(jī) 3
1.1.3 多層感知機(jī)與反向傳播算法 7
1.2 卷積神經(jīng)網(wǎng)絡(luò)基礎(chǔ) 11
1.2.1 卷積的概念 12
1.2.2 卷積神經(jīng)網(wǎng)絡(luò)的基本概念 13
1.2.3 卷積神經(jīng)網(wǎng)絡(luò)的基本結(jié)構(gòu) 17
1.3 總結(jié) 21
參考文獻(xiàn) 22
第2章 深度學(xué)習(xí)優(yōu)化基礎(chǔ) 23
2.1 激活函數(shù) 23
2.1.1 S型函數(shù) 24
2.1.2 ReLU函數(shù) 25
2.2 參數(shù)初始化 31
2.2.1 簡(jiǎn)單初始化 31
2.2.2 標(biāo)準(zhǔn)初始化 31
2.2.3 Xavier與MSRA初始化 32
2.2.4 初始化方法的使用 32
2.3 標(biāo)準(zhǔn)化方法 33
2.3.1 什么是標(biāo)準(zhǔn)化 33
2.3.2 批次標(biāo)準(zhǔn)化 34
2.3.3 層標(biāo)準(zhǔn)化 37
2.3.4 實(shí)例標(biāo)準(zhǔn)化 37
2.3.5 組標(biāo)準(zhǔn)化 38
2.3.6 權(quán)重標(biāo)準(zhǔn)化 39
2.3.7 標(biāo)準(zhǔn)化方法的自動(dòng)搜索 39
2.3.8 標(biāo)準(zhǔn)化的有效性問(wèn)題 39
2.4 學(xué)習(xí)率與最優(yōu)化 40
2.4.1 學(xué)習(xí)率策略 40
2.4.2 梯度下降法與動(dòng)量法 45
2.4.3 Adagrad算法 46
2.4.4 Adadelta與RMSprop算法 47
2.4.5 Adam算法 47
2.4.6 牛頓法、擬牛頓法與共軛梯度法 48
2.5 正則化方法與泛化 48
2.5.1 過(guò)擬合與欠擬合 49
2.5.2 參數(shù)正則化 49
2.5.3 提前停止 50
2.5.4 模型集成 51
2.5.5 訓(xùn)練樣本擴(kuò)充 52
2.6 深度學(xué)習(xí)主流開(kāi)源框架 52
2.6.1 Caffe簡(jiǎn)介 53
2.6.2 TensorFlow簡(jiǎn)介 53
2.6.3 PyTorch簡(jiǎn)介 54
2.6.4 Theano簡(jiǎn)介 55
2.6.5 Keras簡(jiǎn)介 55
2.6.6 MXNet簡(jiǎn)介 55
2.6.7 Chainer簡(jiǎn)介 56
2.7 總結(jié) 56
參考文獻(xiàn) 57
第3章 深度學(xué)習(xí)中的數(shù)據(jù)使用方法 60
3.1 深度學(xué)習(xí)通用數(shù)據(jù)集的發(fā)展 60
3.1.1 MNIST數(shù)據(jù)集 60
3.1.2 CIFAR10和CIFAR100數(shù)據(jù)集 61
3.1.3 PASCAL數(shù)據(jù)集 63
3.1.4 ImageNet數(shù)據(jù)集 63
3.1.5 Microsoft COCO數(shù)據(jù)集 64
3.2 常見(jiàn)計(jì)算機(jī)視覺(jué)任務(wù)數(shù)據(jù)集 65
3.2.1 人臉數(shù)據(jù)集 65
3.2.2 自動(dòng)駕駛數(shù)據(jù)集 75
3.2.3 醫(yī)學(xué)數(shù)據(jù)集 77
3.3 數(shù)據(jù)收集、清洗與整理 81
3.3.1 數(shù)據(jù)收集 81
3.3.2 數(shù)據(jù)清洗與整理 83
3.4 數(shù)據(jù)標(biāo)注 85
3.4.1 數(shù)據(jù)標(biāo)注類(lèi)型 85
3.4.2 數(shù)據(jù)標(biāo)注方法 85
3.5 數(shù)據(jù)增強(qiáng) 87
3.5.1 單樣本圖像處理數(shù)據(jù)增強(qiáng) 88
3.5.2 多樣本圖像處理數(shù)據(jù)增強(qiáng) 92
3.5.3 自動(dòng)化數(shù)據(jù)增強(qiáng) 94
3.5.4 數(shù)據(jù)生成增強(qiáng) 94
3.6 數(shù)據(jù)可視化 95
3.6.1 低維數(shù)據(jù)可視化 96
3.6.2 高維數(shù)據(jù)可視化 97
3.7 總結(jié) 99
參考文獻(xiàn) 99
第4章 圖像分類(lèi) 101
4.1 圖像分類(lèi)基礎(chǔ) 101
4.1.1 單標(biāo)簽圖像分類(lèi)問(wèn)題 102
4.1.2 深度學(xué)習(xí)圖像分類(lèi)經(jīng)典模型 104
4.1.3 優(yōu)化目標(biāo) 108
4.1.4 評(píng)測(cè)指標(biāo) 110
4.2 多標(biāo)簽圖像分類(lèi) 111
4.2.1 多標(biāo)簽圖像分類(lèi)問(wèn)題 111
4.2.2 多標(biāo)簽圖像分類(lèi)模型 112
4.2.3 多標(biāo)簽圖像分類(lèi)評(píng)估指標(biāo) 113
4.3 細(xì)粒度圖像分類(lèi) 114
4.3.1 基于語(yǔ)義子區(qū)域的模型 114
4.3.2 基于高維特征的模型 116
4.4 半監(jiān)督與無(wú)監(jiān)督圖像分類(lèi) 117
4.4.1 基本問(wèn)題與解決思路 117
4.4.2 半監(jiān)督分類(lèi)模型 119
4.4.3 無(wú)監(jiān)督分類(lèi)模型 120
4.4.4 自監(jiān)督分類(lèi)模型 121
4.5 其他圖像分類(lèi)問(wèn)題的典型難題 122
4.5.1 類(lèi)別不均衡問(wèn)題 122
4.5.2 樣本過(guò)少問(wèn)題 123
4.5.3 零樣本識(shí)別問(wèn)題 123
4.6 簡(jiǎn)單表情圖像分類(lèi)實(shí)戰(zhàn) 124
4.6.1 項(xiàng)目背景 124
4.6.2 數(shù)據(jù)預(yù)處理 126
4.6.3 網(wǎng)絡(luò)結(jié)構(gòu)配置 128
4.6.4 基于PyTorch的項(xiàng)目實(shí)踐 130
4.6.5 基于Caffe的項(xiàng)目實(shí)踐 137
4.6.6 項(xiàng)目總結(jié) 146
4.7 鳥(niǎo)類(lèi)細(xì)粒度圖像分類(lèi)實(shí)戰(zhàn) 147
4.7.1 項(xiàng)目背景 147
4.7.2 模型搭建 148
4.7.3 模型訓(xùn)練 151
4.7.4 項(xiàng)目總結(jié) 152
4.8 總結(jié) 152
參考文獻(xiàn) 153
第5章 目標(biāo)檢測(cè) 155
5.1 目標(biāo)檢測(cè)基礎(chǔ) 155
5.1.1 檢測(cè)窗口選擇 156
5.1.2 特征提取 156
5.1.3 分類(lèi)器 157
5.1.4 經(jīng)典的V-J人臉檢測(cè)方法 159
5.1.5 評(píng)估指標(biāo) 162
5.1.6 優(yōu)化目標(biāo) 166
5.1.7 深度學(xué)習(xí)目標(biāo)檢測(cè)概述 167
5.2 深度學(xué)習(xí)二階段目標(biāo)檢測(cè)方法 168
5.2.1 Selective Search與R-CNN 168
5.2.2 RoI Pooling與SPPNet 171
5.2.3 Fast R-CNN方法 172
5.2.4 Faster R-CNN方法 175
5.2.5 R-FCN方法 177
5.2.6 特征金字塔 178
5.2.7 RoI Align簡(jiǎn)介 178
5.2.8 級(jí)聯(lián)框架Cascade R-CNN 180
5.3 深度學(xué)習(xí)一階段目標(biāo)檢測(cè)方法 180
5.3.1 YOLO v1方法 180
5.3.2 YOLO v2方法 183
5.3.3 YOLO v3方法 185
5.3.4 YOLO v4方法 186
5.3.5 YOLO v5方法 189
5.3.6 SSD方法 191
5.3.7 基于角點(diǎn)的檢測(cè)方法 192
5.4 YOLO v3貓臉目標(biāo)檢測(cè)實(shí)戰(zhàn) 194
5.4.1 項(xiàng)目背景 194
5.4.2 數(shù)據(jù)讀取 194
5.4.3 模型搭建 199
5.4.4 優(yōu)化目標(biāo) 204
5.4.5 模型訓(xùn)練 212
5.4.6 模型測(cè)試 212
5.4.7 項(xiàng)目總結(jié) 217
5.5 總結(jié) 217
參考文獻(xiàn) 218
第6章 圖像分割 220
6.1 圖像分割基礎(chǔ) 220
6.1.1 圖像分割的分類(lèi) 220
6.1.2 經(jīng)典的圖像分割方法 222
6.1.3 評(píng)估指標(biāo)與優(yōu)化目標(biāo) 226
6.2 語(yǔ)義分割 227
6.2.1 反卷積 227
6.2.2 語(yǔ)義分割基本流程 229
6.2.3 語(yǔ)義分割經(jīng)典模型 230
6.2.4 語(yǔ)義分割核心技術(shù)與改進(jìn) 232
6.2.5 條件隨機(jī)場(chǎng)后處理 236
6.2.6 弱監(jiān)督語(yǔ)義分割模型 236
6.3 Image Matting模型 237
6.3.1 基本概念 237
6.3.2 基于三值圖的模型 237
6.3.3 不基于三值圖的模型 240
6.3.4 小結(jié) 241
6.4 實(shí)例分割模型 241
6.4.1 基礎(chǔ)實(shí)例分割模型 241
6.4.2 二階段實(shí)例分割模型 245
6.4.3 一階段實(shí)例分割模型 246
6.4.4 小結(jié) 250
6.5 嘴唇圖像語(yǔ)義分割項(xiàng)目 251
6.5.1 項(xiàng)目背景 251
6.5.2 數(shù)據(jù)準(zhǔn)備與讀取 252
6.5.3 網(wǎng)絡(luò)結(jié)構(gòu)搭建 254
6.5.4 模型訓(xùn)練 256
6.5.5 模型測(cè)試 259
6.5.6 項(xiàng)目總結(jié) 260
6.6 人像摳圖實(shí)戰(zhàn) 261
6.6.1 項(xiàng)目背景 261
6.6.2 數(shù)據(jù)處理與讀取 262
6.6.3 模型搭建與訓(xùn)練 266
6.6.4 模型測(cè)試 270
6.6.5 項(xiàng)目總結(jié) 272
6.7 總結(jié) 272
參考文獻(xiàn) 272
第7章 模型可視化 275
7.1 模型可視化基礎(chǔ) 275
7.1.1 為什么要研究模型可視化 275
7.1.2 模型可視化的研究方向 276
7.2 模型結(jié)構(gòu)可視化 276
7.2.1 模型結(jié)構(gòu)的定義 277
7.2.2 Graphiz可視化工具 278
7.2.3 Netron可視化工具 280
7.3 模型可視化分析 282
7.3.1 卷積參數(shù)與特征可視化 282
7.3.2 輸入激活模式可視化 286
7.3.3 輸入?yún)^(qū)域重要性可視化 289
7.4 模型可視化分析實(shí)踐 293
7.4.1 梯度法可視化 293
7.4.2 反卷積可視化 296
7.4.3 CAM圖可視化 302
7.4.4 項(xiàng)目總結(jié) 305
7.5 總結(jié) 305
參考文獻(xiàn) 305
第8章 模型壓縮 307
8.1 輕量級(jí)模型設(shè)計(jì) 307
8.1.1 全連接層的壓縮 308
8.1.2 小卷積核的應(yīng)用 309
8.1.3 卷積拆分與分組 312
8.1.4 特征通道優(yōu)化利用 316
8.1.5 小結(jié) 317
8.2 模型剪枝 318
8.2.1 模型剪枝基礎(chǔ) 318
8.2.2 模型稀疏學(xué)習(xí) 319
8.2.3 非結(jié)構(gòu)化剪枝技術(shù) 322
8.2.4 結(jié)構(gòu)化剪枝技術(shù) 324
8.2.5 小結(jié) 326
8.3 模型量化 326
8.3.1 模型量化基礎(chǔ) 326
8.3.2 二值量化 327
8.3.3 8bit量化 331
8.3.4 自由位寬量化 334
8.3.5 小結(jié) 335
8.4 模型蒸餾 335
8.4.1 模型蒸餾基礎(chǔ) 336
8.4.2 知識(shí)蒸餾框架 337
8.4.3 小結(jié) 339
8.5 結(jié)構(gòu)化模型剪枝實(shí)踐 339
8.5.1 方案選擇 340
8.5.2 模型訓(xùn)練 340
8.5.3 模型剪枝 343
8.5.4 小結(jié) 346
8.6 8bit模型量化實(shí)踐 346
8.6.1 方法選擇 346
8.6.2 量化算法實(shí)現(xiàn) 347
8.6.3 模型量化與測(cè)試 353
8.6.4 小結(jié) 356
8.7 經(jīng)典模型蒸餾實(shí)踐 357
8.7.1 模型定義 357
8.7.2 模型訓(xùn)練 358
8.7.3 小結(jié) 360
8.8 總結(jié) 361
參考文獻(xiàn) 361
第9章 模型部署與上線 365
9.1 微信小程序前端開(kāi)發(fā) 365
9.1.1 小程序的技術(shù)特點(diǎn)與定位 365
9.1.2 Web前端基礎(chǔ) 367
9.1.3 小程序開(kāi)發(fā)工具 369
9.1.4 小程序前端目錄 370
9.1.5 小程序前端開(kāi)發(fā) 371
9.2 微信小程序服務(wù)端開(kāi)發(fā) 376
9.2.1 域名注冊(cè)與管理 377
9.2.2 服務(wù)端框架簡(jiǎn)介 377
9.2.3 算法搭建與實(shí)現(xiàn) 378
9.3 總結(jié) 382