当计算机体系结构遇到深度学习面向计算机体系结构设计师的深度学习概论

作者: [美] 布兰登·里根（Brandon Reagen）

出版社: 机械工业出版社

出版时间: 2019-04

版次: 1

ISBN: 9787111622482

定价: 69.00

装帧: 平装

开本: 其他

页数: 129页

分类: 计算机与互联网

15人买过

深度学习技术在真实应用（例如图像分类、语音识别、自动翻译等领域）取得巨大成功，得益于海量数据集和高性能硬件的出现，特别是利用高性能硬件的体系结构特点，对深度神经网络模型进行软硬件联合设计和优化，将是未来深度学习领域出现重大突破的关键。由于深度学习体系结构研究仍然处于迅猛发展的阶段，缺少针对该领域提纲挈领性的参考书籍，本书的出现正好弥补了这部分空白。这本从体系结构视角研究深度学习的导论性图书将帮助读者入门深度学习体系结构。

本书分为四大部分。部分首先介绍神经网络的基本知识和发展历程，从线性回归到感知器，以及当前的深度神经网络。第二部分主要针对当前流行的深度学习软件的设计异同进行深入介绍，指导读者针对他们的应用选择很正确的软件。第三部分对利用定制化硬件加速神经网络的体系结构进行了探索，特别是针对Minerva加速器设计和优化框架，具体介绍了Minerva方法论以及如何设计实验在神经网络准确度、功耗、性能和硬件面积间进行取舍。本书很后给出神经网络论文中有关硬件研究的全面综述，并且提出一种分类方法帮助读者理解和对比不同的研究项目。
译者序

前言

作者简介

章引言/1

1.1神经网络的兴起和衰落/2

1.2第三波人工智能热潮/4

1.3深度学习中硬件的角色/7

第2章深度学习基础/11

2.1神经网络/12

2.1.1生物神经网络/12

2.1.2人工神经网络/14

2.1.3深度神经网络/18

2.2神经网络学习/19

2.2.1神经网络学习的类型/21

2.2.2深度神经网络如何学习/22

第3章方法和模型/31

3.1不错神经网络方法概述/32

3.1.1模型体系结构/32

3.1.2特殊化的层/36

3.2现代深度学习的参考工作负载/37

3.2.1深度学习工作负载集的标准/37

3.2.2Fathom工作负载/40

3.3深度学习背后的计算原理/44

3.3.1深度学习框架的测量与分析/44

3.3.2操作类型评测/46

3.3.3性能相似度/48

3.3.4训练和推理/49

3.3.5并行和操作平衡/51

第4章神经网络加速器优化：案例研究/55

4.1神经网络和简单墙/57

4.2Minerva：一种跨越三层的方法/60

4.3建立基准：安全的优化/63

4.3.1训练空间探索/63

4.3.2加速器设计空间/66

4.4低功耗神经网络加速器：不安全的优化/70

4.4.1数据类型量化/70

4.4.2选择性操作修剪/72

4.4.3SRAM故障缓解/74

4.5讨论/79

4.6展望/81

第5章文献调查和综述/83

5.1介绍/84

5.2分类法/84

5.3算法/86

5.3.1数据类型/87

5.3.2模型稀疏性/89

5.4体系结构/92

5.4.1模型稀疏性/95

5.4.2模型支持/98

5.4.3数据移动/105

5.5电路/108

5.5.1数据移动/109

5.5.2容错/112

第6章结论/115

参考文献/117
内容简介:
深度学习技术在真实应用（例如图像分类、语音识别、自动翻译等领域）取得巨大成功，得益于海量数据集和高性能硬件的出现，特别是利用高性能硬件的体系结构特点，对深度神经网络模型进行软硬件联合设计和优化，将是未来深度学习领域出现重大突破的关键。由于深度学习体系结构研究仍然处于迅猛发展的阶段，缺少针对该领域提纲挈领性的参考书籍，本书的出现正好弥补了这部分空白。这本从体系结构视角研究深度学习的导论性图书将帮助读者入门深度学习体系结构。

本书分为四大部分。部分首先介绍神经网络的基本知识和发展历程，从线性回归到感知器，以及当前的深度神经网络。第二部分主要针对当前流行的深度学习软件的设计异同进行深入介绍，指导读者针对他们的应用选择很正确的软件。第三部分对利用定制化硬件加速神经网络的体系结构进行了探索，特别是针对Minerva加速器设计和优化框架，具体介绍了Minerva方法论以及如何设计实验在神经网络准确度、功耗、性能和硬件面积间进行取舍。本书很后给出神经网络论文中有关硬件研究的全面综述，并且提出一种分类方法帮助读者理解和对比不同的研究项目。
作者简介:
目录:
译者序

前言

作者简介

章引言/1

1.1神经网络的兴起和衰落/2

1.2第三波人工智能热潮/4

1.3深度学习中硬件的角色/7

第2章深度学习基础/11

2.1神经网络/12

2.1.1生物神经网络/12

2.1.2人工神经网络/14

2.1.3深度神经网络/18

2.2神经网络学习/19

2.2.1神经网络学习的类型/21

2.2.2深度神经网络如何学习/22

第3章方法和模型/31

3.1不错神经网络方法概述/32

3.1.1模型体系结构/32

3.1.2特殊化的层/36

3.2现代深度学习的参考工作负载/37

3.2.1深度学习工作负载集的标准/37

3.2.2Fathom工作负载/40

3.3深度学习背后的计算原理/44

3.3.1深度学习框架的测量与分析/44

3.3.2操作类型评测/46

3.3.3性能相似度/48

3.3.4训练和推理/49

3.3.5并行和操作平衡/51

第4章神经网络加速器优化：案例研究/55

4.1神经网络和简单墙/57

4.2Minerva：一种跨越三层的方法/60

4.3建立基准：安全的优化/63

4.3.1训练空间探索/63

4.3.2加速器设计空间/66

4.4低功耗神经网络加速器：不安全的优化/70

4.4.1数据类型量化/70

4.4.2选择性操作修剪/72

4.4.3SRAM故障缓解/74

4.5讨论/79

4.6展望/81

第5章文献调查和综述/83

5.1介绍/84

5.2分类法/84

5.3算法/86

5.3.1数据类型/87

5.3.2模型稀疏性/89

5.4体系结构/92

5.4.1模型稀疏性/95

5.4.2模型支持/98

5.4.3数据移动/105

5.5电路/108

5.5.1数据移动/109

5.5.2容错/112

第6章结论/115

参考文献/117