《基於深度學習的自然語言處理》是2020年清華大學出版社出版的圖書，作者鄧力、劉洋等，本書共分為十一章，主要介紹了深度學習領域中的技術以及深度學習在自然語言處理任務中的套用。
基本介紹
- 書名：基於深度學習的自然語言處理
- 作者：鄧力、劉洋等
- 譯者：李軒涯 、盧苗苗 、趙璽 、計湘婷
- 出版社：清華大學出版社
- 出版時間：2020年
- 定價：198 元
- ISBN：9787302551942
內容簡介,圖書目錄,作者簡介,
內容簡介
近幾年來，深度學習已經徹底改變人工智慧的諸多領域，涉及語音、視覺、自然語言、機器人和遊戲等。深度學習在自然語言處理領域的諸多套用方面大獲成功，這使其成為人工智慧領域*重要的發展基準。《基於深度學習的自然語言處理》介紹深度學習領域*的技術以及深度學習在主要的自然語言處理任務中的成功套用，包括語音識別和理解、對話系統、語義分析、句法分析、知識圖譜、機器翻譯、問答、情感分析、社會計算和基於圖像的自然語言生成。本書對深度學習時代自然語言處理領域的不同研究前沿進行了概括與分析，還列舉了深度學習與自然語言處理領域中交叉的技術性術語以及常用的首字母縮略詞。《基於深度學習的自然語言處理》面向深度學習與自然語言處理領域高年級的本科生、研究生、博士後研究員、講師、行業的研究員以及任何對此領域感興趣的人。
圖書目錄
第1章自然語言處理與深度學習概述1
1.1自然語言處理的概況1
1.2大浪潮：理性主義2
1.3第二大浪潮：經驗主義4
1.4第三大浪潮：深度學習7
1.5從現在到未來的轉變11
1.5.1從經驗主義到深度學習的變革11
1.5.2當前深度學習技術的限制12
1.6自然語言處理未來的發展方向13
1.6.1神經符號集成(NeuralSymbolic Integration)13
1.6.2結構、記憶和知識15
1.6.3無監督和生成式深度學習15
1.6.4多模式和多任務深度學習16
1.6.5元學習17
1.7結論18第2章基於深度學習的對話語言理解20
2.1引言20
2.2歷史性視角22
2.3主要的語言理解任務24
2.3.1域檢測和意圖識別24
2.3.2填槽24
2.4提升技術水平：從統計建模到深度學習25
2.4.1域檢測和意圖識別25
2.4.2填槽28
2.4.3聯合多任務多域模型35
2.4.4上下文理解37
2.5結論40第3章基於深度學習的語音與文本對話系統43
3.1引言43
3.2系統組件的學習方法46
3.2.1判別性方法47
3.2.2生成性方法48
3.2.3決策性方法49
3.3目標導向型神經對話系統49
3.3.1神經語言理解49
3.3.2對話狀態追蹤器50
3.3.3深度對話管理器51
3.4基於模型的用戶模擬器53
3.5自然語言生成54
3.6基於端到端深度學習構建對話系統57
3.7面向開放式對話系統的深度學習59
3.8對話建模的數據集60
3.8.1卡內基·梅隆傳播語料庫60
3.8.2ATIS：航空旅行信息系統飛行員語料庫60
3.8.3對話狀態追蹤挑戰數據集60
3.8.4Maluuba框架數據集61
3.8.5Facebook對話數據集62
3.8.6Ubuntu對話語料庫63
3.9開源對話軟體63
3.10對話系統評估65
3.11結論67第4章基於深度學習的詞法分析和句法分析68
4.1引言68
4.2典型的詞法分析和句法分析任務69
4.2.1分詞69
4.2.2詞性標註70
4.2.3句法分析70
4.2.4結構化預測問題72
4.3結構化預測74
目錄4.3.1基於圖的方法75
4.3.2基於轉移的方法77
4.4基於神經圖的方法82
4.4.1神經條件隨機場82
4.4.2基於圖的神經依存句法分析84
4.5基於神經轉移的方法86
4.5.1貪婪移位減少依存句法分析86
4.5.2貪婪序列標註90
4.5.3全局最佳化模型94
4.6結論101第5章基於深度學習的知識圖譜102
5.1引言102
5.1.1基本概念103
5.1.2典型的知識圖譜103
5.2知識表征學習107
5.3神經關係抽取109
5.3.1語句級NRE109
5.3.2文檔級NRE115
5.4知識與文本的橋樑:實體連線116
5.4.1實體連線框架117
5.4.2用於實體連線的深度學習120
5.5結論127第6章基於深度學習的機器翻譯129
6.1引言129
6.2統計機器翻譯及其面對的挑戰130
6.2.1基本原理130
6.2.2統計機器翻譯所面對的挑戰133
6.3基於組件深度學習的機器翻譯134
6.3.1用於詞對齊的深度學習與基於深度學習的詞對齊134
6.3.2用於翻譯規則機率估計的深度學習137
6.3.3用於短語調序的深度學習140
6.3.4用於語言建模的深度學習142
6.3.5用於特徵組合的深度學習143
6.4基於端到端深度學習的機器翻譯146
6.4.1編碼器解碼器框架146
6.4.2機器翻譯的神經注意力148
6.4.3處理大辭彙量的技術挑戰150
6.4.4使用端到端訓練直接最佳化評估指標152
6.4.5結合先驗知識153
6.4.6低資源語言翻譯156
6.4.7神經機器翻譯中的網路結構158
6.4.8SMT和NMT的結合159
6.5結論161第7章基於深度學習的問答系統163
7.1引言163
7.2基於深度學習的KBQA164
7.2.1信息提取範式165
7.2.2語義分析範式169
7.2.3對比信息提取範式與語義分析範式174
7.2.4數據集174
7.2.5挑戰176
7.3基於深度學習的機器閱讀理解177
7.3.1任務描述177
7.3.2基於特徵工程的方法182
7.3.3基於深度學習的方法186
7.4結論191第8章基於深度學習的情感分析194
8.1引言194
8.2特殊情感詞嵌入196
8.3語句級情感分類201
8.3.1卷積神經網路202
8.3.2循環神經網路204
8.3.3遞歸神經網路207
8.3.4整合外部資源209
8.4文檔級情感分類210
8.5細粒度情感分析213
8.5.1意見挖掘214
8.5.2針對特定目標的情感分析215
8.5.3方面級情感分析218
8.5.4立場檢測221
8.5.5諷刺識別222
8.6結論223第9章基於深度學習的社會計算224
9.1引言224
9.2基於深度學習對用戶生成內容進行建模228
9.2.1傳統的語義表征方法229
9.2.2基於淺層嵌入技術的語義表征229
9.2.3基於深度神經網路的語義表征232
9.2.4運用注意力機制增強語義表征236
9.3基於深度學習建立社會聯繫模型237
9.3.1社交媒體中的社交聯繫237
9.3.2建模社會關係的網路表征學習方法238
9.3.3基於淺層嵌入的模型239
9.3.4基於深度神經網路的模型243
9.3.5網路嵌入的套用244
9.4基於深度學習的推薦系統245
9.4.1社交媒體中的推薦系統245
9.4.2傳統推薦算法246
9.4.3基於淺層嵌入的模型246
9.4.4基於深度神經網路的模型248
9.5結論254第10章基於深度學習的圖像描述255
10.1引言255
10.2背景介紹256
10.3圖像描述的深度學習框架257
10.3.1端到端框架257
10.3.2組合框架260
10.3.3其他框架262
10.4評估指標和基準263
10.5圖像描述的工業部署264
10.6示例：圖像中的自然語言描述265
10.7從圖像生成文體自然語言的研究進展268
10.8結論270第11章後記：深度學習時代下自然語言處理的前沿研究271
11.1引言271
11.2兩個新視角272
11.2.1以任務為中心的視角273
11.2.2以表征為中心的視角274
11.3基於深度學習的NLP的研究進展與熱點276
11.3.1組合性泛化276
11.3.2NLP中的無監督學習277
11.3.3NLP中的強化學習278
11.3.4NLP中的元學習280
11.3.5弱可解釋性與強可解釋性282
11.4結論284附錄參考答案288術語表360
作者簡介
鄧力博士，2019年當選加拿大國家工程學院和美國華盛頓州科學院院士，目前擔任Citadel首席人工智慧官。2000—2017年，鄧博士在微軟曾擔任AI首席科學家、深度學習技術中心(Deep Learning Technology Center)創始人、微軟合伙人研究經理。1989—1999年，鄧博士在加拿大滑鐵盧大學曾擔任助理教授、終身副教授和正教授，還曾在麻省理工學院(1992—1993年)、ATR(1997—1998年，日本京都)和香港科技大學(1995年，香港)擔任教學/研究職位。鄧博士是IEEE(2004)、美國聲學學會(1993)和ISCA(2011)的研究員。自2000年以來，鄧博士一直是西雅圖華盛頓大學的兼職教授。
劉洋博士，清華大學計算機科學與技術系長聘教授、人工智慧研究所所長，國家傑出青年基金獲得者。研究方向是自然語言處理，在自然語言處理和人工智慧領域重要國際刊物和國際會議上發表80餘篇論文，獲得ACL 2017傑出論文獎和ACL 2006優秀亞洲自然語言處理論文獎。獲得國家科技進步二等獎、中國電子學會科技進步一等獎、中國中文信息學會錢偉長青年創新一等獎、北京市科學技術獎二等獎等多項科技獎勵。擔任或曾擔任國際計算語言學學會亞太分會執委兼秘書長、Computational Linguistics編委、ACM TALLIP副編輯、中國中文信息學會青年工作委員會主任。
