深度學(xué)習(xí)及神經(jīng)網(wǎng)絡(luò)算法涵蓋較廣的計(jì)算機(jī)和數(shù)學(xué)領(lǐng)域，如果使用PyTorch、TensorFlow等深度框架，并記住它們的使用規(guī)則，可能能夠應(yīng)付大部分的情況并繞過許多細(xì)節(jié)，但知其然而不知其所以然，顯然只是學(xué)習(xí)深度學(xué)習(xí)的第一步，通用的深度學(xué)習(xí)框架并不總是能滿足所有的需求，如果要從使用到擴(kuò)展乃至創(chuàng)造，就需要掌握遠(yuǎn)比簡單使用更多的知識和細(xì)節(jié)。
　　得益于PyTorch、TensorFlow等深度學(xué)習(xí)框架都是開源的，有些時(shí)候通過發(fā)掘它們的源碼來進(jìn)階相對簡單，例如我想知道PyTorch是如何實(shí)現(xiàn)Adam的，可以將光標(biāo)移到torch.optim.Adam類名上，使用快捷鍵Ctrl+B或Ctrl+鼠標(biāo)跳轉(zhuǎn)到聲明，便可以發(fā)現(xiàn)它調(diào)用了torch.optim.functional.adam函數(shù)，同樣進(jìn)入torch.optim.functional.adam，在這里可以發(fā)現(xiàn)Adam的算法實(shí)現(xiàn)。但這種方法并不總是能得到想知道的答案（實(shí)際上，大部分時(shí)候都無法奏效）。
　　作為一個(gè)成熟的框架，PyTorch 1.7.0的源碼已經(jīng)難以全部閱讀（C++/Python代碼行數(shù)都在十萬量級），且出于程序健壯性的考慮，其源碼含有不少條件判斷語句，對閱讀也會造成一定的阻礙，因此對讀者而言閱讀本書中的代碼和解讀相比直接閱讀深度學(xué)習(xí)框架的源碼應(yīng)該效率更高。在有自研深度框架的經(jīng)驗(yàn)后，使用這些成熟框架顯然會事半功倍，而且也能知道當(dāng)它們無法滿足要求時(shí)如何擴(kuò)展。
　　深度學(xué)習(xí)理論由來已久，但限于計(jì)算機(jī)的運(yùn)算速度近幾年才被推上風(fēng)口浪尖。深度學(xué)習(xí)中的大量運(yùn)算往往以矩陣或張量為載體，它們的運(yùn)算有高度的并行性，因此能夠在具有許多計(jì)算核心的GPU上被加速，這也是深度學(xué)習(xí)興起的現(xiàn)實(shí)基礎(chǔ)。
　　如果你曾關(guān)注過顯卡，那么可能也聽說過“CUDA核心”這個(gè)名詞，NVIDIA介紹一塊新顯卡時(shí)首先會說明它有多少個(gè)CUDA核心（或多少個(gè)流處理器）。CUDA是NVIDIA公司推出的計(jì)算平臺，目前主流的深度框架如TensorFlow和PyTorch都是以CUDA為核心，本書也會在介紹深度學(xué)習(xí)之余介紹它的基本用法，幫助讀者全方位地了解深度學(xué)習(xí)這個(gè)領(lǐng)域。
　　書中包含大量細(xì)心編寫的代碼，帶著讀者一起思考。本書在重點(diǎn)及難點(diǎn)處配有視頻講解，掃描書中提供的二維碼可觀看對應(yīng)章節(jié)的視頻講解。
　　本書絕大多數(shù)理論輔以代碼實(shí)現(xiàn)，同時(shí)也建議讀者先按照自己對理論的理解編寫對應(yīng)的程序，若有疑問再參考本書的代碼。因?yàn)榫幊淌遣辉试S對知識模棱兩可的，理解有偏差時(shí)編寫的代碼往往會輸出顯而易見的錯誤結(jié)果甚至直接報(bào)錯無法運(yùn)行。換言之，如果能將理論轉(zhuǎn)換為代碼，通常對那個(gè)概念就有一個(gè)初步的認(rèn)識了。
　　因作者水平有限，書中難免存在疏漏，敬請讀者批評指正。