PyTorch與深度學(xué)習(xí)實(shí)戰(zhàn)

第 1章　深度學(xué)習(xí)概述　1
1.1　深度學(xué)習(xí)簡(jiǎn)介　1
1.1.1　深度學(xué)習(xí)的定義　1
1.1.2　深度學(xué)習(xí)的常見(jiàn)應(yīng)用　2
1.2　深度學(xué)習(xí)與應(yīng)用領(lǐng)域　9
1.2.1　深度學(xué)習(xí)與計(jì)算機(jī)視覺(jué)　9
1.2.2　深度學(xué)習(xí)與自然語(yǔ)言處理　10
1.2.3　深度學(xué)習(xí)與語(yǔ)音識(shí)別　11
1.2.4　深度學(xué)習(xí)與機(jī)器學(xué)習(xí)　12
1.2.5　深度學(xué)習(xí)與人工智能　13
1.3　PyTorch簡(jiǎn)介　14
1.3.1　各深度學(xué)習(xí)框架對(duì)比　14
1.3.2　PyTorch生態(tài)　16
1.3.3　PyTorch特點(diǎn)　17
1.3.4　PyTorch安裝　17
1.4　PyTorch中的預(yù)訓(xùn)練模型　23
1.4.1　預(yù)訓(xùn)練模型的概念　23
1.4.2　預(yù)訓(xùn)練模型的使用場(chǎng)景　24
1.4.3　PyTorch預(yù)訓(xùn)練模型的調(diào)用方法　25
小結(jié)　26
課后習(xí)題　26
第 2章　PyTorch深度學(xué)習(xí)通用流程　28
2.1　數(shù)據(jù)加載與預(yù)處理　29
2.1.1　數(shù)據(jù)加載　29
2.1.2　數(shù)據(jù)預(yù)處理　30
2.1.3　加載及預(yù)處理貓狗分類(lèi)數(shù)據(jù)　37
2.2　構(gòu)建網(wǎng)絡(luò)　42
2.2.1　常用的網(wǎng)絡(luò)構(gòu)建方法　42
2.2.2　激活函數(shù)　46
2.2.3　構(gòu)建基于卷積神經(jīng)網(wǎng)絡(luò)的貓狗分類(lèi)網(wǎng)絡(luò)　50
2.3　編譯網(wǎng)絡(luò)　53
2.3.1　損失函數(shù)　53
2.3.2　優(yōu)化器　56
2.3.3　編譯基于卷積神經(jīng)網(wǎng)絡(luò)的貓狗分類(lèi)網(wǎng)絡(luò)　59
2.4　訓(xùn)練網(wǎng)絡(luò)　60
2.4.1　迭代次數(shù)　60
2.4.2　批訓(xùn)練　61
2.4.3　訓(xùn)練基于卷積神經(jīng)網(wǎng)絡(luò)的貓狗分類(lèi)網(wǎng)絡(luò)　61
2.5　性能評(píng)估　62
2.5.1　評(píng)估指標(biāo)　62
2.5.2　評(píng)估基于卷積神經(jīng)網(wǎng)絡(luò)的貓狗分類(lèi)模型的性能　63
小結(jié)　66
實(shí)訓(xùn)　CIFAR-10圖像分類(lèi)　66
課后習(xí)題　67
第3章　PyTorch深度學(xué)習(xí)基礎(chǔ)　68
3.1　卷積神經(jīng)網(wǎng)絡(luò)基礎(chǔ)　68
3.1.1　常用的卷積神經(jīng)網(wǎng)絡(luò)算法及其結(jié)構(gòu)　68
3.1.2　卷積神經(jīng)網(wǎng)絡(luò)中的常用網(wǎng)絡(luò)層　72
3.1.3　基于卷積神經(jīng)網(wǎng)絡(luò)的手寫(xiě)數(shù)字識(shí)別　87
3.2　循環(huán)神經(jīng)網(wǎng)絡(luò)基礎(chǔ)　97
3.2.1　常用的循環(huán)神經(jīng)網(wǎng)絡(luò)算法及其結(jié)構(gòu)　97
3.2.2　循環(huán)神經(jīng)網(wǎng)絡(luò)中的常用網(wǎng)絡(luò)層　101
3.2.3　基于LSTM網(wǎng)絡(luò)的時(shí)間序列分析　111
3.3　生成對(duì)抗網(wǎng)絡(luò)基礎(chǔ)　115
3.3.1　常用的生成對(duì)抗網(wǎng)絡(luò)算法及其結(jié)構(gòu)　115
3.3.2　基于生成對(duì)抗網(wǎng)絡(luò)的手寫(xiě)數(shù)字圖像生成　119
小結(jié)　126
實(shí)訓(xùn)1　基于卷積神經(jīng)網(wǎng)絡(luò)的人臉表情識(shí)別　126
實(shí)訓(xùn)2　基于循環(huán)神經(jīng)網(wǎng)絡(luò)的文本情感分類(lèi)　126
實(shí)訓(xùn)3　基于生成對(duì)抗網(wǎng)絡(luò)的人物圖片生成　127
課后習(xí)題　127
第4章　手寫(xiě)漢字識(shí)別　129
4.1　目標(biāo)分析　129
4.1.1　背景　129
4.1.2　分析目標(biāo)　130
4.1.3　項(xiàng)目工程結(jié)構(gòu)　131
4.2　加載數(shù)據(jù)　132
4.2.1　定義生成圖像集路徑文檔的函數(shù)　132
4.2.2　定義讀取并轉(zhuǎn)換圖像數(shù)據(jù)格式的類(lèi)　133
4.2.3　加載圖像數(shù)據(jù)　134
4.3　構(gòu)建網(wǎng)絡(luò)　135
4.4　編譯網(wǎng)絡(luò)　137
4.5　訓(xùn)練網(wǎng)絡(luò)　138
4.6　性能評(píng)估　138
4.7　模型預(yù)測(cè)　140
小結(jié)　140
實(shí)訓(xùn)　手寫(xiě)中文數(shù)字識(shí)別　141
課后習(xí)題　141
第5章　文本生成　142
5.1　目標(biāo)分析　142
5.1.1　背景　142
5.1.2　分析目標(biāo)　143
5.1.3　項(xiàng)目工程結(jié)構(gòu)　143
5.2　文本預(yù)處理　144
5.2.1　處理數(shù)據(jù)　144
5.2.2　創(chuàng)建字典　145
5.2.3　生成序列　146
5.3　構(gòu)建網(wǎng)絡(luò)　148
5.3.1　定義文本生成類(lèi)的構(gòu)造方法　149
5.3.2　初始化權(quán)重　150
5.3.3　設(shè)置數(shù)據(jù)在網(wǎng)絡(luò)中的流動(dòng)方向　151
5.4　訓(xùn)練網(wǎng)絡(luò)　153
5.4.1　設(shè)置配置項(xiàng)　153
5.4.2　執(zhí)行訓(xùn)練　154
5.4.3　定義文本生成器　156
5.5　結(jié)果分析　159
小結(jié)　160
實(shí)訓(xùn)　基于LSTM網(wǎng)絡(luò)的文本生成　160
課后習(xí)題　161
第6章　基于CycleGAN的圖像風(fēng)格轉(zhuǎn)換　162
6.1　目標(biāo)分析　162
6.1.1　背景　162
6.1.2　分析目標(biāo)　163
6.1.3　項(xiàng)目工程結(jié)構(gòu)　164
6.2　數(shù)據(jù)準(zhǔn)備　164
6.3　構(gòu)建網(wǎng)絡(luò)　166
6.3.1　殘差網(wǎng)絡(luò)　167
6.3.2　生成器　167
6.3.3　判別器　169
6.3.4　緩存隊(duì)列　170
6.4　訓(xùn)練網(wǎng)絡(luò)　171
6.5　結(jié)果分析　175
小結(jié)　176
實(shí)訓(xùn)　基于CycleGAN實(shí)現(xiàn)冬天與夏天的圖像風(fēng)格轉(zhuǎn)換　176
課后習(xí)題　177
第7章　基于TipDM大數(shù)據(jù)挖掘建模平臺(tái)實(shí)現(xiàn)文本生成　178
7.1　平臺(tái)簡(jiǎn)介　178
7.1.1　共享庫(kù)　180
7.1.2　數(shù)據(jù)連接　180
7.1.3　數(shù)據(jù)集　180
7.1.4　我的工程　181
7.1.5　個(gè)人組件　184
7.2　實(shí)現(xiàn)文本生成　184
7.2.1　配置數(shù)據(jù)源　185
7.2.2　文本預(yù)處理　187
7.2.3　構(gòu)建網(wǎng)絡(luò)　189
7.2.4　訓(xùn)練網(wǎng)絡(luò)　191
7.2.5　結(jié)果分析　195
小結(jié)　197
實(shí)訓(xùn)　通過(guò)TipDM平臺(tái)實(shí)現(xiàn)基于LSTM網(wǎng)絡(luò)的文本生成　197
課后習(xí)題　197