Transformer自然语言处理实战：使用Hugging Face Transformers库构建NLP应用

作者: 托马斯·沃尔夫（澳）

出版社: 机械工业出版社

出版时间: 2024-01

版次: 1

ISBN: 9787111741923

定价: 139.00

装帧: 平装

开本: 16开

页数: 343页

字数: 453千字

分类: 计算机与互联网

10人买过

本书涵盖了tranformer在nlp领域的主要应用。首先介绍tranformer模型和hugging face 生态系统。然后重点介绍情感分析任务以及trainer api、tranformer的架构，并讲述了在多语言中识别文本内实体的任务，以及tranformer模型生成文本的能力，还介绍了解码策略和度量指标。接着深入挖掘了文本摘要这个复杂的序列到序列的任务，并介绍了用于此任务的度量指标。之后聚焦于构建基于的问答系统，介绍如何基于haytack进行信息检索，探讨在缺乏大量标注数据的情况下提高模型能的方法。后展示如何从头开始构建和训练用于自动填充python源代码的模型，并结tranformer面临的挑战以及将这个模型应用于其他领域的一些新研究。
LewisTunstall是HuggingFace机器学习工程师，致力于为NLP社区开发实用工具，并帮助人们更好地使用这些工具。 LeandrovonWerra是HuggingFace机器学习工程师，致力于代码生成模型的研究与社区推广工作。 ThomasWolf是HuggingFace首席科学官兼联合创始人，他的团队肩负着促进AI研究和普及的使命。

序1

前言3

章欢迎来到transformer的世界11

1.1 -框架12

1.2 注意力机制14

1.3 nlp的迁移学15

1.4 hugging facetransformers库：提供规范化接18

1.5 transformer应用概览19

1.6 hugging face生态系统23

1.7 transformer的主要挑战27

1.8 本章小结27

第2章文本分类29

2.1 数据集30

2.2 将文本转换成词元36

2.3 训练文本分类器44

2.4 本章小结60

第3章 transformer架构剖析62

3.1 transformer架构62

3.2 64

……
内容简介:

本书涵盖了tranformer在nlp领域的主要应用。首先介绍tranformer模型和hugging face 生态系统。然后重点介绍情感分析任务以及trainer api、tranformer的架构，并讲述了在多语言中识别文本内实体的任务，以及tranformer模型生成文本的能力，还介绍了解码策略和度量指标。接着深入挖掘了文本摘要这个复杂的序列到序列的任务，并介绍了用于此任务的度量指标。之后聚焦于构建基于的问答系统，介绍如何基于haytack进行信息检索，探讨在缺乏大量标注数据的情况下提高模型能的方法。后展示如何从头开始构建和训练用于自动填充python源代码的模型，并结tranformer面临的挑战以及将这个模型应用于其他领域的一些新研究。
作者简介:

LewisTunstall是HuggingFace机器学习工程师，致力于为NLP社区开发实用工具，并帮助人们更好地使用这些工具。 LeandrovonWerra是HuggingFace机器学习工程师，致力于代码生成模型的研究与社区推广工作。 ThomasWolf是HuggingFace首席科学官兼联合创始人，他的团队肩负着促进AI研究和普及的使命。
目录:

序1

前言3

章欢迎来到transformer的世界11

1.1 -框架12

1.2 注意力机制14

1.3 nlp的迁移学15

1.4 hugging facetransformers库：提供规范化接18

1.5 transformer应用概览19

1.6 hugging face生态系统23

1.7 transformer的主要挑战27

1.8 本章小结27

第2章文本分类29

2.1 数据集30

2.2 将文本转换成词元36

2.3 训练文本分类器44

2.4 本章小结60

第3章 transformer架构剖析62

3.1 transformer架构62

3.2 64

……