前言

本書旨在將新手帶入自然語言處理（Natural Language Processing，NLP）和深度學習的領(lǐng)域，為讀者打造涵蓋這兩個領(lǐng)域關(guān)鍵主題的試驗臺。如今，這兩個主題領(lǐng)域都呈指數(shù)增長狀態(tài)。在介紹深度學習和NLP 并著重于實現(xiàn)的同時，這本書定位于重要的中間立場。寫這本書時，我們在省去哪些材料上做出了十分艱難的選擇。對于初學者而言，我們希望本書能幫助你打下堅實的知識基礎(chǔ)，并讓你認識到更高級實現(xiàn)的可能性。機器學習，尤其是深度學習，是一門與知識科學不同的經(jīng)驗學科。每章中大量的端到端代碼示例可以讓你更好地參與到編程體驗中來。

當我們開始編寫本書時，我們從PyTorch 0.2 開始。 隨著PyTorch 從0.2 更新到0.4，我們也在修訂我們的示例。PyTorch 1.0 即將在本書發(fā)行時發(fā)布。本書中的代碼示例與PyTorch 0.4 兼容，并應(yīng)與即將發(fā)布的PyTorch 1.0 版本一起使用。注1

關(guān)于本書風格的注釋。我們在大多數(shù)地方有意避免使用數(shù)學，不是因為深度學習數(shù)學特別困難（其實沒有那么難），而是因為它在許多情況下都偏離了本書的主要目標——鼓勵初學者。同樣，在許多情況下，無論是在代碼方面還是在文本方面，我們都傾向于詳細闡述而非簡潔。高級讀者和經(jīng)驗豐富的編程人員可能有能力和方法簡化代碼，但是我們選擇盡可能明確，以覆蓋到接觸本書的最廣泛受眾。

本書內(nèi)容約定

在本書中，按以下約定進行排版：

斜體英文（Italic）

表示新名詞、URL、電子郵件地址、文件名以及文件擴展名。

等寬英文字體（Constant width）

用于程序代碼，以及在正文中引用變量、函數(shù)名稱、數(shù)據(jù)類型、環(huán)境變量、語句、關(guān)鍵字等代碼中的元素。

粗體等寬字體（Constant width bold）

需要用戶輸入的命令或其他文本。

斜體等寬字體（Constant width italic）

需要替換成用戶自定義的值或根據(jù)上下文決定的值。

使用代碼示例

補充材料（代碼示例，練習等）可從以下網(wǎng)站下載：

https://nlproc.info/PyTorchNLPBook/repo/。

這本書可以幫助您完成工作。通常，如果本書提供了示例代碼，則可以在程序和文檔中使用它。除非您要復制大部分代碼，否則無需與我們聯(lián)系以獲取許可。例如，編寫使用本書中若干代碼段的程序無需許可。以CD-ROM 形式出售或發(fā)布O’Reilly 書籍中的示例需要獲得許可。引用本書并引用示例代碼來回答問題無需許可。要將本書中的大量示例代碼納入產(chǎn)品的文檔時需獲得許可。

我們不強制要求署名，但如果你這么做，我們深表感激。署名一般包括書名、作者、出版社和國際標準書號（ISBN）。例如：“Natural LanguageProcessing with PyTorch by Delip Rao and Brian McMahan (O’Reilly).Copyright 2019, Delip Rao and Brian McMahan, 978-1-491-97823-8. ”。如果你覺得你對示例代碼的使用行為超出了合理的方式或超出了上述的允許不獲取授權(quán)的場景，可以與我們?nèi)〉寐?lián)系：permissions@oreilly.com。

O’Reilly 在線學習平臺（O’Reilly Online Learning）

近40 年來，O’Reilly Media 致力于提供技術(shù)和商業(yè)培訓、知識和卓越見解，來幫助眾多公司取得成功。

我們擁有獨一無二的專家和革新者組成的龐大網(wǎng)絡(luò)，他們通過圖書、文章、會議和我們的在線學習平臺分享他們的知識和經(jīng)驗。O’Reilly 的在線學習平臺允許你按需訪問現(xiàn)場培訓課程、深入的學習路徑、交互式編程環(huán)境，以及O’Reilly 和200 多家其他出版商提供的大量文本和視頻資源。有關(guān)的更多信息，請訪問http://oreilly.com。

聯(lián)系我們

請將有關(guān)本書的建議和問題發(fā)送給出版社：

美國：

O’Reilly Media, Inc.

1005 Gravenstein Highway North

Sebastopol, CA 95472

中國：

北京市西城區(qū)西直門南大街2號成銘大廈C座807室（100035）

奧萊利技術(shù)咨詢（北京）有限公司

我們?yōu)楸緯�提供了一個網(wǎng)頁，上面有勘誤表、示例和其他相關(guān)的信息，請訪問：http://bit.ly/nlprocbk。

有關(guān)本書的建議或者技術(shù)問題，請發(fā)郵件到bookquestions@oreilly.com。

有關(guān)其他圖書、講座、會議、新聞的信息，請訪問我們的網(wǎng)站：http://www.oreilly.com。

我們的Facebook：http://facebook.com/oreilly。

我們的Twitter：http://twitter.com/oreillymedia。

我們的YouTube：http://www.youtube.com/oreillymedia。

致謝

本書經(jīng)歷了各種各樣的演變，本書的每個版本看上去都與以前的版本不同。每個版本涉及不同的人員（甚至不同的DL 框架）。

作者要感謝Goku Mohandas 最初參與本書的工作。在Goku 因工作原因不得不離開之前，Goku 為該項目投入了很多精力。Goku 對PyTorch 的熱情和他的積極性無與倫比，作者想念與他共事的經(jīng)歷。我們期待他帶來卓越的成績！如果沒有我們的技術(shù)評論員Liling Tan 和Debasish Gosh 的高質(zhì)量反饋，這本書就無法達到如此的技術(shù)層次。Liling 貢獻了他在先進的NLP 產(chǎn)品開發(fā)方面的專業(yè)知識，而Debasish 從開發(fā)人員的角度提供了非常有價值的反饋。我們同樣感謝Alfredo Canziani，Soumith Chintala 和其他許多來自PyTorch 開發(fā)人員論壇的杰出人員所給予的鼓勵。該社區(qū)對本書的許多見解的影響與我們自身的實踐一樣重要。

如果不感謝我們的編輯Jeff Bleiel 給予我們的出色支持，那會是我們的失職。沒有他的指導，這本書就無法呈現(xiàn)在各位讀者面前。Bob Russell 的文字編輯和Nan Barber 的產(chǎn)品支持將這份手稿從草稿轉(zhuǎn)變成了可印刷的書。我們還要感謝Shannon Cutt 在本書早期所給予的支持。

書中的大部分內(nèi)容都是根據(jù)作者在O’Reilly 的AI and Strata 會議上所提供的NLP 培訓發(fā)展而來，該培訓為期2 天。我們要感謝Ben Lorica，Jason Perdue和Sophia DeMartini 與我們一起參與培訓。

Delip 非常感謝Brian McMahan 作為合著者。Brian 竭盡全力支持這本書的發(fā)展。這是一次與Brian 同甘共苦的旅程！ Delip 還想感謝O’Reilly 的Ben Lorica 最初堅持要寫一本關(guān)于NLP 的書。

Brian 要感謝Sara Manuel 的無盡支持，并感謝Delip Rao 作為推動本書完成的中堅力量。如果沒有Delip 的堅持不懈和超凡毅力，就不會有現(xiàn)在這本書。