人工智能安全：原理剖析與實(shí)踐

第1章　信息安全與人工智能基礎(chǔ) 1

1.1　“人工智能安全”在研究什么 1

1.1.1　AI Safety與AI Security 1

1.1.2　人工智能系統(tǒng)面臨的安全挑戰(zhàn) 4

1.1.3　應(yīng)對(duì)安全挑戰(zhàn) 7

1.2　信息安全基礎(chǔ)知識(shí) 9

1.2.1　信息安全三要素 10

1.2.2　攻擊的產(chǎn)生條件 11

1.2.3　常見(jiàn)的漏洞類(lèi)型 13

1.2.4　輸入驗(yàn)證 22

1.2.5　攻擊面 24

1.2.6　漏洞挖掘方法 24

1.2.7　常見(jiàn)的漏洞庫(kù) 26

1.2.8　防御手段 27

1.3　人工智能基礎(chǔ)知識(shí) 28

1.3.1　人工智能發(fā)展歷史 29

1.3.2　深度學(xué)習(xí)基礎(chǔ) 33

1.3.3　ImageNet與ILSVRC 35

1.3.4　圖像識(shí)別領(lǐng)域的里程碑技術(shù) 38

1.3.5　對(duì)一些概念的解釋 38

1.4　信息安全與人工智能的碰撞 40

1.5　本章小結(jié) 42

參考資料 42

第2章　人工智能信息系統(tǒng)安全 43

2.1　信息系統(tǒng)環(huán)境安全 43

2.1.1　人工智能與信息系統(tǒng)環(huán)境 43

2.1.2　因存在信息系統(tǒng)環(huán)境漏洞而被攻擊的人工智能系統(tǒng) 46

2.2　基礎(chǔ)架構(gòu)安全 56

2.2.1　人工智能基礎(chǔ)架構(gòu) 57

2.2.2　人工智能框架安全 62

2.3　依賴(lài)庫(kù)安全 72

2.3.1　TensorFlow處理GIF文件的一個(gè)漏洞 72

2.3.2　依賴(lài)庫(kù)NumPy中的一個(gè)漏洞 78

2.3.3　依賴(lài)庫(kù)OpenCV中的一個(gè)堆溢出漏洞 81

2.4　云服務(wù)安全 85

2.5　人工智能綜合應(yīng)用：自動(dòng)駕駛安全 88

2.5.1　自動(dòng)駕駛技術(shù)現(xiàn)狀 88

2.5.2　自動(dòng)駕駛安全分析 95

2.5.3　自動(dòng)駕駛汽車(chē)感知層攻擊示例及分析 98

2.5.4　汽車(chē)信息系統(tǒng)攻擊示例及分析 103

2.6　本章小結(jié) 108

參考資料 109

第3章　人工智能算法安全 110

3.1　人工智能算法安全概述 110

3.2　白盒場(chǎng)景下的對(duì)抗攻擊 112

3.2.1　快速梯度符號(hào)法 113

3.2.2　DeepFool算法 116

3.2.3　投影梯度下降法 119

3.2.4　基于優(yōu)化的對(duì)抗樣本生成算法——C&W算法 123

3.2.5　通用對(duì)抗擾動(dòng) 128

3.3　黑盒場(chǎng)景下的對(duì)抗攻擊 129

3.3.1　基于遷移的黑盒攻擊 129

3.3.2　基于查詢(xún)的黑盒攻擊 138

3.4　對(duì)抗防御 153

3.4.1　數(shù)據(jù)增強(qiáng)（訓(xùn)練階段） 154

3.4.2　魯棒網(wǎng)絡(luò)結(jié)構(gòu)（訓(xùn)練階段） 161

3.4.3　魯棒損失函數(shù)（訓(xùn)練階段） 167

3.4.4　輸入變換（測(cè)試階段） 175

3.4.5　模型后處理（測(cè)試階段） 186

3.4.6　對(duì)抗檢測(cè)（測(cè)試階段） 191

3.4.7　可驗(yàn)證的魯棒訓(xùn)練 197

3.5　案例分析 200

3.5.1　人臉識(shí)別 201

3.5.2　智能汽車(chē) 205

3.6　本章小結(jié) 209

參考資料 209

第4章　人工智能輔助攻防新場(chǎng)景 215

4.1　自動(dòng)化漏洞挖掘、攻擊與防御 215

4.1.1　2016 Cyber Grand Challenge 216

4.1.2　符號(hào)執(zhí)行技術(shù) 218

4.1.3　Mayhem系統(tǒng)原理 221

4.2　生成對(duì)抗網(wǎng)絡(luò)在安全領(lǐng)域的應(yīng)用 223

4.3　DeepFake檢測(cè)挑戰(zhàn)賽 226

4.4　實(shí)驗(yàn)：為視頻中的人物換臉 228

4.4.1　實(shí)驗(yàn)步驟 228

4.4.2　實(shí)驗(yàn)原理 230

4.4.3　從法律角度看AI換臉技術(shù) 232

4.5　本章小結(jié) 234

參考資料 234

第5章　人工智能安全生態(tài) 235

5.1　人工智能安全研究現(xiàn)狀 235

5.1.1　政府規(guī)劃 235

5.1.2　非政府組織的推動(dòng) 237

5.1.3　人工智能研究人員對(duì)安全的研究 240

5.1.4　廠商和安全極客的作用 240

5.1.5　非人工智能專(zhuān)業(yè)科學(xué)家的作用 241

5.2　人工智能安全與倫理 242

5.2.1　人工智能倫理研究現(xiàn)狀 242

5.2.2　讓人工智能做出正確的道德決策 245

5.2.3　人工智能道德決策的難點(diǎn) 246

5.2.4　人工智能安全問(wèn)題責(zé)任歸屬 248

5.2.5　人類(lèi)應(yīng)該如何對(duì)待人工智能 250

5.2.6　人工智能有可能統(tǒng)治人類(lèi)嗎 251

5.3　本章小結(jié) 252

參考資料 252