自然语言处理 基于预训练模型的方法_车万翔;郭江;.pdf

随时、随地、随心阅读 当当云阅读 ※版权信息※ 书名：自然语言处理:基于预训练模型的方法 作者：车万翔;郭江;等 排版：skip 出版社：电子工业出版社 出版时间：2021-07-01 ISBN：9787121415128 本书由电子工业出版社有限公司授权北京当当科文电子商务有限公司制作与 发行。 — · 版权所有 侵权必究 · — 内容简介 自然语言处理被誉为“人工智能皇冠上的明珠”。深度学习等技 术的引入为自然语言处理技术带来了一场革命，尤其是近年来出现的 基于预训练模型的方法，已成为研究自然语言处理的新范式。本书在 介绍自然语言处理、深度学习等基本概念的基础上，重点介绍新的基 于预训练模型的自然语言处理技术。本书包括基础知识、预训练词向 量和预训练模型三部分：基础知识部分介绍自然语言处理和深度学习 的基础知识和基本工具；预训练词向量部分介绍静态词向量和动态词 向量的预训练方法及应用；预训练模型部分介绍几种典型的预训练语 言模型及应用，以及预训练模型的最新进展。除了理论知识，本书还 有针对性地结合具体案例提供相应的PyTo rch代码实现，不仅能让读者 对理论有更深刻的理解，还能快速地实现自然语言处理模型，达到理 论和实践的统一。 本书既适合具有一定机器学习基础的高等院校学生、研究机构的 研究者，以及希望深入研究自然语言处理算法的计算机工程师阅读， 也适合对人工智能、深度学习和自然语言处理感兴趣的学生和希望进 入人工智能应用领域的研究者参考。 推荐序 自然语言处理的目标是使得机器具有和人类一样的语言理解与运 用能力。在过去的十年里，自然语言处理经历了两次里程碑式的重要 发展。第一次是深度学习的勃兴，使得传统的特征工程方法被摒弃， 而基于深度神经网络的表示学习迅速成为自然语言处理的主流。第二 次则是2018年以来大规模预训练语言模型的应用，开启了基于“预训 练+精调”的新一代自然语言处理范式。每一次的发展都为 自然语言 处理系统的能力带来了巨大的进步。与此同时，这些令人欣喜的发展 也带给我们很多关于语言智能的更本质的思考。由车万翔等人所著的 《自然语言处理：基于预训练模型的方法》一书从预训练模型的角度 对这两次重要的发展进行了系统性的论述，能够帮助读者深入理解这 些技术背后的原理、相互之间的联系以及潜在的局限性，对于当前学 术界和工业界的相关研究与应用都具有重要的价值。 本书包括三部分，共9 章。书中 从自然语言处理与神经网络的基础 知识出发，沿着预训练模型的发展轨