本书初步探索了将深度学习应用于自然语言处理的方法。概述了自然语言处理的一般概念,介绍了如何将深度学习技术应用于自然语言处理。通过具体实例说明了如何提取自然语言文本的特征以及如何考虑上下文关系来生成文本。本书中,自然语言文本的特征提取是通过卷积神经网络来实现的,而根据上下文关系来生成文本则利用了循环神经网络。这两个网络是深度学习领域中常用的基础技术.
封面图
目录
- 译者序
- 前言
- 第1章自然语言处理与深度学习1
- 1.1自然语言处理1
- 1.1.1什么是自然语言处理1
- 1.1.2自然语言处理基础4
- 1.2深度学习13
- 1.2.1人工智能与机器学习13
- 1.2.2神经网络16
- 1.2.3卷积神经网络和自编码器22
- 1.3与自然语言处理相关的深度学习27
- 1.3.1自然语言处理与神经网络、深度学习27
- 1.3.2用神经网络来表达单词意义29
- 1.3.3深度学习应用于自然语言处理31
- 第2章基于文本处理的自然语言处理32
- 2.1自然语言文本的文本处理32
- 2.1.1文字处理32
- 2.1.2单词处理45
- 2.1.31-of-N表示的处理54
- 2.2基于单词2-gram的文本生成68
- 第3章深度学习应用于自然语言文本分析77
- 3.1基于CNN的文本分类77
- 3.2准备1:卷积运算和池化处理81
- 3.2.1卷积运算81
- 3.2.2池化处理90
- 3.3准备2:全连接型神经网络96
- 3.3.1基于层次结构的全连接型神经网络的构造及学习方法96
- 3.3.2全连接型神经网络的实现99
- 3.4卷积神经网络的实现102
- 3.4.1卷积神经网络的结构102
- 3.4.2由卷积神经网络学习1-of-N表示数据103
- 3.4.3基于CNN的单词序列评估118
- 第4章文本生成与深度学习133
- 4.1基于循环神经网络的文本生成133
- 4.1.1神经网络和文本生成133
- 4.1.2循环神经网络136
- 4.2RNN的实现139
- 4.2.1RNN程序的设计139
- 4.2.2RNN程序的实现141
- 4.3基于RNN的文本生成154
- 4.3.1基于RNN的文本生成框架154
- 4.3.2文本生成实验的实例160
- 附录A将行的重复次数添加到行首的程序uniqc.c167
- 附录B按照行首的数值对行进行排序的程序sortn.c169
- 附录C全连接型神经网络的程序bp.c171
- 参考文献178