前言
第1章　深度學習基礎(chǔ)　1
1.1　深度學習的現(xiàn)實應(yīng)用　2
1.1.1　計算機視覺　2
1.1.2　自然語言處理　2
1.1.3　推薦系統(tǒng)　3
1.1.4　語音處理　3
1.1.5　其他領(lǐng)域　3
1.2　回歸問題和分類問題　4
1.2.1　線性回歸　5
1.2.2　Softmax分類　6
1.3　梯度下降算法　8
1.3.1　優(yōu)化算法概述　8
1.3.2　隨機梯度下降算法　10
1.3.3　小批量梯度下降算法　13
1.3.4　Momentum梯度下降
算法　14
1.3.5　Adam優(yōu)化算法　15
1.4　神經(jīng)網(wǎng)絡(luò)　16
1.4.1　神經(jīng)網(wǎng)絡(luò)的表示　16
1.4.2　激活函數(shù)及其導數(shù)　19
1.4.3　前向傳播和反向傳播　23
1.4.4　神經(jīng)網(wǎng)絡(luò)的梯度下降　26
1.5　本章小結(jié)　27
第2章　卷積神經(jīng)網(wǎng)絡(luò)　28
2.1　卷積基礎(chǔ)知識　28
2.1.1　卷積操作　29
2.1.2　池化　33
2.1.3　卷積的變種　34
2.2　深度卷積神經(jīng)網(wǎng)絡(luò)　37
2.2.1　卷積神經(jīng)網(wǎng)絡(luò)的整體
結(jié)構(gòu)　37
2.2.2　殘差結(jié)構(gòu)和1×1卷積　38
2.2.3　經(jīng)典卷積網(wǎng)絡(luò)　41
2.3　卷積神經(jīng)網(wǎng)絡(luò)的應(yīng)用　44
2.3.1　圖像分類　44
2.3.2　目標檢測　45
2.3.3　其他應(yīng)用　49
2.4　本章小結(jié)　49
第3章　循環(huán)神經(jīng)網(wǎng)絡(luò)　50
3.1　深度循環(huán)神經(jīng)網(wǎng)絡(luò)　50
3.1.1　循環(huán)神經(jīng)網(wǎng)絡(luò)概述　51
3.1.2　基于時間的反向傳播　52
3.1.3　循環(huán)神經(jīng)網(wǎng)絡(luò)的長期依賴
問題　54
3.2　循環(huán)神經(jīng)網(wǎng)絡(luò)變體　55
3.2.1　長短時記憶網(wǎng)絡(luò)　55
3.2.2　門控循環(huán)神經(jīng)網(wǎng)絡(luò)　60
3.3　序列模型和注意力機制　61
3.3.1　Seq2Seq序列模型　62
3.3.2　注意力機制　64
3.3.3　Transformer結(jié)構(gòu)　69
3.4　循環(huán)神經(jīng)網(wǎng)絡(luò)的應(yīng)用　74
3.4.1　自然語言處理　74
3.4.2　語音識別　84
3.4.3　喚醒詞檢測　87
3.5　本章小結(jié)　88
第4章　深度神經(jīng)網(wǎng)絡(luò)的訓練　90
4.1　深度學習的學習策略　90
4.1.1　數(shù)據(jù)集劃分和評估指標　90
4.1.2　偏差、方差和誤差　94
4.1.3　神經(jīng)網(wǎng)絡(luò)的權(quán)重初始化　95
4.2　深度學習的訓練技巧　96
4.2.1　梯度消失和梯度爆炸　96
4.2.2　正則化和隨機失活　97
4.2.3　歸一化　99
4.2.4　自適應(yīng)學習率　100
4.2.5　超參數(shù)優(yōu)化　101
4.3　改善模型表現(xiàn)　102
4.3.1　解決數(shù)據(jù)不匹配問題　102
4.3.2　遷移學習　103
4.4　動手訓練神經(jīng)網(wǎng)絡(luò)　104
4.4.1　Jupyter Notebook的
使用　104
4.4.2　訓練MNIST手寫數(shù)字識別模型　106
4.4.3　TensorBoard的使用　112
4.5　本章小結(jié)　115
第5章　RK3399Pro芯片功能與
架構(gòu)　116
5.1　RK3399Pro芯片的整體架構(gòu)　116
5.2　神經(jīng)網(wǎng)絡(luò)處理單元　121
5.2.1　神經(jīng)網(wǎng)絡(luò)處理單元的
4個模塊　122
5.2.2　RKNN-Toolkit開發(fā)
套件　123
5.2.3　RKNN-API開發(fā)套件　126
5.3　視頻處理單元　126
5.4　圖形處理加速單元　128
5.5　本章小結(jié)　128
第6章　TB-RK3399Pro開發(fā)板　130
6.1　開發(fā)板硬件環(huán)境介紹　130
6.1.1　硬件總覽　130
6.1.2　硬件規(guī)格　131
6.2　開發(fā)板開發(fā)環(huán)境搭建　134
6.2.1　開發(fā)板的啟動和網(wǎng)絡(luò)
配置　134
6.2.2　終端與軟件包安裝　138
6.3　本章小結(jié)　144
第7章　基于TB-RK3399Pro進行卷積神經(jīng)網(wǎng)絡(luò)實戰(zhàn)　145
7.1　TB-RK3399Pro圖像采集　145
7.1.1　原理　145
7.1.2　實戰(zhàn)　146
7.2　TB-RK3399Pro手寫數(shù)字
識別　147
7.2.1　原理　147
7.2.2　實戰(zhàn)　150
7.3　TB-RK3399Pro YOLO目標
檢測　152
7.3.1　原理　153
7.3.2　實戰(zhàn)　154
7.4　TB-RK3399Pro人臉識別　156
7.4.1　原理　156
7.4.2　實戰(zhàn)　162
7.5　本章小結(jié)　163
第8章　TB-RK3399Pro神經(jīng)網(wǎng)絡(luò)
運算加速　165
8.1　神經(jīng)網(wǎng)絡(luò)運算加速引擎介紹　165
8.2　神經(jīng)網(wǎng)絡(luò)模型部署和推理　166
8.2.1　模型部署　167
8.2.2　模型推理　169
8.3　神經(jīng)網(wǎng)絡(luò)模型量化　170
8.4　本章小結(jié)　173
第9章　基于TB-RK3399Pro開發(fā)板進行循環(huán)神經(jīng)網(wǎng)絡(luò)實戰(zhàn)　174
9.1　TB-RK3399Pro開發(fā)板聲音
采集　174
9.1.1　必備環(huán)境安裝　174
9.1.2　聲音采集　175
9.2　語音識別模型介紹　176
9.2.1　特征提取　177
9.2.2　語音識別網(wǎng)絡(luò)　180
9.2.3　評價指標　182
9.3　TB-RK3399Pro語音識別
實戰(zhàn)　182
9.3.1　實戰(zhàn)目的　182
9.3.2　實戰(zhàn)數(shù)據(jù)　182
9.3.3　實戰(zhàn)環(huán)境　183
9.3.4　實戰(zhàn)步驟　183
9.3.5　實戰(zhàn)結(jié)果　187
9.4　本章小結(jié)　188
第10章　基于Rock-X API的深度
學習案例　189
10.1　Rock-X SDK介紹　189
10.2　Rock-X環(huán)境部署　190
10.3　目標檢測　190
10.4　車牌識別