第1章　信息安全與人工智能基礎(chǔ) 1
1.1　“人工智能安全”在研究什么 1
1.1.1　AI Safety與AI Security 1
1.1.2　人工智能系統(tǒng)面臨的安全挑戰(zhàn) 4
1.1.3　應(yīng)對安全挑戰(zhàn) 7
1.2　信息安全基礎(chǔ)知識 9
1.2.1　信息安全三要素 10
1.2.2　攻擊的產(chǎn)生條件 11
1.2.3　常見的漏洞類型 13
1.2.4　輸入驗(yàn)證 22
1.2.5　攻擊面 24
1.2.6　漏洞挖掘方法 24
1.2.7　常見的漏洞庫 26
1.2.8　防御手段 27
1.3　人工智能基礎(chǔ)知識 28
1.3.1　人工智能發(fā)展歷史 29
1.3.2　深度學(xué)習(xí)基礎(chǔ) 33
1.3.3　ImageNet與ILSVRC 35
1.3.4　圖像識別領(lǐng)域的里程碑技術(shù) 38
1.3.5　對一些概念的解釋 38
1.4　信息安全與人工智能的碰撞 40
1.5　本章小結(jié) 42
參考資料 42
第2章　人工智能信息系統(tǒng)安全 43
2.1　信息系統(tǒng)環(huán)境安全 43
2.1.1　人工智能與信息系統(tǒng)環(huán)境 43
2.1.2　因存在信息系統(tǒng)環(huán)境漏洞而被攻擊的人工智能系統(tǒng) 46
2.2　基礎(chǔ)架構(gòu)安全 56
2.2.1　人工智能基礎(chǔ)架構(gòu) 57
2.2.2　人工智能框架安全 62
2.3　依賴庫安全 72
2.3.1　TensorFlow處理GIF文件的一個(gè)漏洞 72
2.3.2　依賴庫NumPy中的一個(gè)漏洞 78
2.3.3　依賴庫OpenCV中的一個(gè)堆溢出漏洞 81
2.4　云服務(wù)安全 85
2.5　人工智能綜合應(yīng)用：自動駕駛安全 88
2.5.1　自動駕駛技術(shù)現(xiàn)狀 88
2.5.2　自動駕駛安全分析 95
2.5.3　自動駕駛汽車感知層攻擊示例及分析 98
2.5.4　汽車信息系統(tǒng)攻擊示例及分析 103
2.6　本章小結(jié) 108
參考資料 109
第3章　人工智能算法安全 110
3.1　人工智能算法安全概述 110
3.2　白盒場景下的對抗攻擊 112
3.2.1　快速梯度符號法 113
3.2.2　DeepFool算法 116
3.2.3　投影梯度下降法 119
3.2.4　基于優(yōu)化的對抗樣本生成算法——C＆W算法 123
3.2.5　通用對抗擾動 128
3.3　黑盒場景下的對抗攻擊 129
3.3.1　基于遷移的黑盒攻擊 129
3.3.2　基于查詢的黑盒攻擊算法 138
3.4　對抗防御 153
3.4.1　數(shù)據(jù)增強(qiáng)（訓(xùn)練階段） 154
3.4.2　魯棒網(wǎng)絡(luò)結(jié)構(gòu)（訓(xùn)練階段） 161
3.4.3　魯棒損失函數(shù)（訓(xùn)練階段） 167
3.4.4　輸入變換（測試階段） 175
3.4.5　模型后處理（測試階段） 186
3.4.6　對抗檢測（測試階段） 191
3.4.7　可驗(yàn)證的魯棒訓(xùn)練 197
3.5　案例分析 200
3.5.1　人臉識別 201
3.5.2　智能汽車 205
3.6　本章小結(jié) 209
參考資料 209
第4章　人工智能輔助攻防新場景 215
4.1　自動化漏洞挖掘、攻擊與防御 215
4.1.1　2016 Cyber Grand Challenge 216
4.1.2　符號執(zhí)行技術(shù) 218
4.1.3　Mayhem系統(tǒng)原理 221
4.2　生成對抗網(wǎng)絡(luò)在安全領(lǐng)域的應(yīng)用 223
4.3　DeepFake檢測挑戰(zhàn)賽 226
4.4　實(shí)驗(yàn)：為視頻中的人物換臉 228
4.4.1　實(shí)驗(yàn)步驟 228
4.4.2　實(shí)驗(yàn)原理 230
4.4.3　從法律角度看AI換臉技術(shù) 232
4.5　本章小結(jié) 234
參考資料 234
第5章　人工智能安全生態(tài) 235
5.1　人工智能安全研究現(xiàn)狀 235
5.1.1　政府規(guī)劃 235
5.1.2　非政府組織的推動 237
5.1.3　人工智能研究人員對安全的研究 240
5.1.4　廠商和安全極客的作用 240
5.1.5　非人工智能專業(yè)科學(xué)家的作用 241
5.2　人工智能安全與倫理 242
5.2.1　人工智能倫理研究現(xiàn)狀 242
5.2.2　讓人工智能做出正確的道德決策 245
5.2.3　人工智能道德決策的難點(diǎn) 246
5.2.4　人工智能安全問題責(zé)任歸屬 248
5.2.5　人類應(yīng)該如何對待人工智能 250
5.2.6　人工智能有可能統(tǒng)治人類嗎 251
5.3　本章小結(jié) 252
參考資料 252