本書從語義匹配的角度解決搜索引擎和推薦系統(tǒng)的關(guān)鍵痛點,為構(gòu)建解決語義匹配問題的深度學(xué)習(xí)模型提供了通用框架。第1章概述搜索和推薦中的語義匹配問題,以及近年來的研究進(jìn)展。第2章介紹傳統(tǒng)匹配模型,包括潛在空間模型。第3章介紹深度學(xué)習(xí)技術(shù)在構(gòu)建匹配模型時的應(yīng)用。第4章和第5章分別介紹用于搜索和推薦的深度匹配模型,并將當(dāng)前的深度學(xué)習(xí)解決方案分為兩類:表示學(xué)習(xí)方法和匹配函數(shù)學(xué)習(xí)方法。第6章對全書內(nèi)容做了總結(jié),并為讀者指明進(jìn)一步學(xué)習(xí)的方向。
本書適合對深度學(xué)習(xí)感興趣的各類讀者,包括相關(guān)專業(yè)的本科生、研究生、博士生,以及從事信息檢索、搜索引擎、推薦系統(tǒng)、計算廣告相關(guān)工作的軟件工程師。
- 人工智能大咖徐君、何向南、李航聯(lián)袂創(chuàng)作
- 用深度學(xué)習(xí)助力搜索引擎和推薦系統(tǒng)
信息科學(xué)的一大基本問題是如何從龐大的信息庫中識別滿足用戶需求的信息。雖然搜索和推薦都屬于信息訪問范式,但二者的信息提供機制各異。本書從語義匹配的角度為搜索和推薦提供了統(tǒng)一的框架,歸納和總結(jié)了深度匹配學(xué)習(xí)領(lǐng)域的前沿成果,旨在幫助深度匹配模型更廣泛地應(yīng)用于與搜索和推薦相關(guān)的互聯(lián)網(wǎng)產(chǎn)品。
【作者簡介】 徐君 中國人民大學(xué)杰出特聘教授、博導(dǎo)。曾就職于微軟亞洲研究院、華為技術(shù)有限公司諾亞方舟實驗室和中國科學(xué)院計算技術(shù)研究所。主要研究方向包括信息檢索、因果分析和數(shù)據(jù)挖掘等。發(fā)表論文100余篇,擔(dān)任多個國際期刊的編委或副主編,主持多項國家項目。 何向南 中國科學(xué)技術(shù)大學(xué)教授、博導(dǎo),國家高層次青年人才計劃入選者。研究方向包括推薦系統(tǒng)、數(shù)據(jù)挖掘、因果推理等,在SIGIR、KDD、WWW等國際學(xué)術(shù)會議上發(fā)表論文100余篇,愛思唯爾中國高被引學(xué)者,阿里巴巴達(dá)摩院青橙獎獲得者。擔(dān)任多個國際期刊的編委或副主編,主持多項國家級項目,研究成果在多個商業(yè)公司的線上系統(tǒng)中獲得應(yīng)用,取得積極效果。 李航 字節(jié)跳動科技有限公司研究部門負(fù)責(zé)人。ACL會士、IEEE會士、ACM杰出科學(xué)家。京都大學(xué)畢業(yè),東京大學(xué)博士。曾就職于NEC公司中央研究所、微軟亞洲研究院、華為技術(shù)有限公司諾亞方舟實驗室。主要研究方向包括自然語言處理、信息檢索、機器學(xué)習(xí)、數(shù)據(jù)挖掘!稒C器學(xué)習(xí)方法》等書作者。 【譯者簡介】 朱小虎 通用人工智能研究員、谷歌機器學(xué)習(xí)GDE、百度深度學(xué)習(xí)布道師、Foresight Institute Fellow。University AI和Center for Safe AGI的創(chuàng)始人。舉辦過多場國際性人工智能峰會和活動,曾受邀為多所國內(nèi)高校制訂人工智能學(xué)習(xí)規(guī)劃和教授人工智能前沿課程,也曾為多家世界500強企業(yè)提供人工智能方面的戰(zhàn)略布局建議及落地實施等方面的咨詢建議!渡钊霚\出神經(jīng)網(wǎng)絡(luò)與深度學(xué)習(xí)》《人工智能締造師》等書譯者。
第 1章 引論 1
1.1 搜索和推薦 1
1.2 從匹配的角度統(tǒng)一搜索和推薦 2
1.3 搜索中的不匹配問題 4
1.4 推薦系統(tǒng)中的不匹配問題 5
1.5 最新進(jìn)展 7
1.6 關(guān)于本書 8
第 2章 傳統(tǒng)匹配模型 11
2.1 匹配學(xué)習(xí) 11
2.1.1 匹配函數(shù) 11
2.1.2 匹配函數(shù)的學(xué)習(xí) 12
2.2 搜索和推薦中的匹配模型 17
2.2.1 搜索中的匹配模型 18
2.2.2 推薦中的匹配模型 18
2.2.3 潛在空間中的匹配 19
2.3 搜索中的潛在空間模型 21
2.3.1 PLS 21
2.3.2 RMLS 22
2.3.3 SSI 23
2.4 推薦中的潛在空間模型 24
2.4.1 BMF 25
2.4.2 FISM 26
2.4.3 FM 27
2.5 延伸閱讀 28
第3章 用于匹配的深度學(xué)習(xí) 29
3.1 深度學(xué)習(xí)概述 29
3.1.1 深度神經(jīng)網(wǎng)絡(luò) 29
3.1.2 表示學(xué)習(xí) 40
3.2 用于匹配的深度學(xué)習(xí)概述 46
3.2.1 深度匹配的通用框架 46
3.2.2 深度匹配的典型架構(gòu) 48
3.2.3 深度匹配的設(shè)計原理 50
第4章 搜索中的深度匹配模型 53
4.1 基于表示學(xué)習(xí)的匹配模型 55
4.1.1 總體框架 55
4.1.2 FNN表示 56
4.1.3 CNN表示 58
4.1.4 RNN表示 63
4.1.5 無監(jiān)督方法和弱監(jiān)督方法下的表示學(xué)習(xí) 64
4.1.6 表示多模態(tài)的查詢和文檔 68
4.1.7 實驗結(jié)果 72
4.2 基于匹配函數(shù)學(xué)習(xí)的查詢?C文檔匹配模型 73
4.2.1 總體框架 73
4.2.2 用匹配矩陣學(xué)習(xí)匹配函數(shù) 74
4.2.3 用注意力機制學(xué)習(xí)匹配函數(shù) 81
4.2.4 搜索中的匹配函數(shù)學(xué)習(xí) 86
4.2.5 實驗結(jié)果 91
4.3 討論和延伸閱讀 93
4.3.1 討論 93
4.3.2 延伸閱讀 95
第5章 推薦中的深度匹配模型 101
5.1 基于表示學(xué)習(xí)的匹配 102
5.1.1 從無序交互中學(xué)習(xí)表示 103
5.1.2 從順序交互中學(xué)習(xí)表示 108
5.1.3 從多模態(tài)內(nèi)容中學(xué)習(xí)表示 118
5.1.4 從圖數(shù)據(jù)中學(xué)習(xí)表示 126
5.2 基于匹配函數(shù)學(xué)習(xí)的匹配 133
5.2.1 雙路匹配 134
5.2.2 多路匹配 140
5.3 延伸閱讀 145
5.3.1 論文 146
5.3.2 基準(zhǔn)數(shù)據(jù)集 147
5.3.3 開源軟件庫 148
第6章 結(jié)論和未來研究方向 149
6.1 總結(jié) 149
6.2 其他任務(wù)中的匹配 150
6.3 開放問題和未來發(fā)展方向 151
術(shù)語縮寫表 155
參考文獻(xiàn) 157