本書通過想要學習深度學習的程序員綾乃和她朋友美緒的對話,逐步講解深度學習中實用的數(shù)學基礎(chǔ)知識。內(nèi)容涉及神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)、感知機、正向傳播和反向傳播,以及卷積神經(jīng)網(wǎng)絡(luò)。其中,重點講解了容易成為學習絆腳石的數(shù)學公式和符號。同時,還通過實際的Python 編程實現(xiàn)神經(jīng)網(wǎng)絡(luò),加深讀者對相關(guān)數(shù)學知識的理解。
本書適合對深度學習感興趣、想要從事深度學習相關(guān)研究,但是對深度學習和神經(jīng)網(wǎng)絡(luò)相關(guān)數(shù)學知識感到棘手的讀者閱讀。
一本書掌握深度學習的基礎(chǔ)數(shù)學!
1、步步引導,對話形式好理解
延續(xù)前作《白話機器學習的數(shù)學》有趣、易懂、不枯燥的講解風格
2、層層拆解,復雜公式看得懂
詳細分析神經(jīng)網(wǎng)絡(luò)的數(shù)學表達式,逐個講解上下標的含義
3、通過Python編程實現(xiàn)神經(jīng)網(wǎng)絡(luò)
通過實踐加深對數(shù)學知識的理解,示例代碼均可下載
[日]立石賢吾(作者)
SmartNews公司的機器學習工程師。從日本佐賀大學畢業(yè)后曾就職于數(shù)家開發(fā)公司,并于2014年入職LINE Fukuoka,在該公司于日本福岡市成立的數(shù)據(jù)分析和機器學習團隊中,負責利用機器學習開發(fā)推薦系統(tǒng)、文本分類等產(chǎn)品,并擔任團隊負責人。2019年入職SmartNews公司,擔任現(xiàn)職。
鄭明智(譯者)
長期從事人工智能、智慧醫(yī)療領(lǐng)域的研發(fā)工作。譯有《白話機器學習的數(shù)學》《深度學習入門2》《深度學習基礎(chǔ)與實踐》等書。
第 1章 神經(jīng)網(wǎng)絡(luò)入門 1
1.1 對神經(jīng)網(wǎng)絡(luò)的興趣 2
1.2 神經(jīng)網(wǎng)絡(luò)所處的位置 4
1.3 關(guān)于神經(jīng)網(wǎng)絡(luò) 6
1.4 神經(jīng)網(wǎng)絡(luò)能做的事情 13
1.5 數(shù)學與編程 20
專欄 神經(jīng)網(wǎng)絡(luò)的歷史 23
第 2章 學習正向傳播 29
2.1 先來學習感知機 30
2.2 感知機的工作原理 32
2.3 感知機和偏置 35
2.4 使用感知機判斷圖像的長邊 38
2.5 使用感知機判斷圖像是否為正方形 41
2.6 感知機的缺點 44
2.7 多層感知機 48
2.8 使用神經(jīng)網(wǎng)絡(luò)判斷圖像是否為正方形 52
2.9 神經(jīng)網(wǎng)絡(luò)的權(quán)重 55
2.10 激活函數(shù) 66
2.11 神經(jīng)網(wǎng)絡(luò)的表達式 69
2.12 正向傳播 74
2.13 神經(jīng)網(wǎng)絡(luò)的通用化 80
專欄 激活函數(shù)到底是什么 83
第3章 學習反向傳播 89
3.1 神經(jīng)網(wǎng)絡(luò)的權(quán)重和偏置 90
3.2 人的局限性 92
3.3 誤差 95
3.4 目標函數(shù) 100
3.5 梯度下降法 107
3.6 小技巧:德爾塔 119
3.7 德爾塔的計算 130
3.7.1 輸出層的德爾塔 130
3.7.2 隱藏層的德爾塔 134
3.8 反向傳播 141
專欄 梯度消失到底是什么 145
第4章 學習卷積神經(jīng)網(wǎng)絡(luò) 151
4.1 擅長處理圖像的卷積神經(jīng)網(wǎng)絡(luò) 152
4.2 卷積過濾器 154
4.3 特征圖 162
4.4 激活函數(shù) 165
4.5 池化 167
4.6 卷積層 168
4.7 卷積層的正向傳播 176
4.8 全連接層的正向傳播 186
4.9 反向傳播 190
4.9.1 卷積神經(jīng)網(wǎng)絡(luò)的反向傳播 190
4.9.2 誤差 192
4.9.3 全連接層的更新表達式 197
4.9.4 卷積過濾器的更新表達式 201
4.9.5 池化層的德爾塔 205
4.9.6 與全連接層相連的卷積層的德爾塔 207
4.9.7 與卷積層相連的卷積層的德爾塔 212
4.9.8 參數(shù)的更新表達式 217
專欄 交叉熵到底是什么 221
第5章 實現(xiàn)神經(jīng)網(wǎng)絡(luò) 227
5.1 使用Python 實現(xiàn) 228
5.2 判斷長寬比的神經(jīng)網(wǎng)絡(luò) 229
5.2.1 神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu) 232
5.2.2 正向傳播 234
5.2.3 反向傳播 239
5.2.4 訓練 244
5.2.5 小批量 250
5.3 手寫數(shù)字的圖像識別與卷積神經(jīng)網(wǎng)絡(luò) 255
5.3.1 準備數(shù)據(jù)集 257
5.3.2 神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu) 263
5.3.3 正向傳播 266
5.3.4 反向傳播 278
5.3.5 訓練 286
專欄 后話 297
附錄
A.1 求和符號 302
A.2 微分 303
A.3 偏微分 307
A.4 復合函數(shù) 310
A.5 向量和矩陣 312
A.6 指數(shù)與對數(shù) 316
A.7 Python 環(huán)境搭建 319
A.8 Python 基礎(chǔ)知識 322