作者简介：

丹尼斯·巴赫瓦洛夫(Denis Bakhvalov)
Intel高级开发人员，在Intel从事C++编译器项目相关工作，致力于为不同的芯片架构生成最佳代码。性能工程和编译器一直是他感兴趣的研究领域。他于2008年开始了他的软件开发职业生涯，参与过多个领域的工作，包括桌面应用程序开发、嵌入式系统开发、性能分析和编译器开发。2016年，他开设了easyperf.net博客，开始在博客中撰写性能分析、调优、C/C++编译器和CPU微架构相关的文章。

译者简介： 

朱金鹏 荣耀终端虚拟机和编译优化技术负责人，有10多年安卓系统开发经验，致力于安卓手机系统的性能优化。曾就职于华为终端，负责方舟编译器关键特性设计与开发，主导WebAssembly技术在轻量级操作系统上的应用。他是《简明的TensorFlow2》的合著者。

 

李成栋 腾讯软硬件协同架构师，有7年性能分析优化实践经验，擅长软硬件协同性能分析与优化，主导过多款性能优化平台/工具的建设，曾就职于阿里巴巴基础软件系统性能团队。

 

译者序

前言

致谢

作者简介

第1章导读1

1.1 为什么需要性能调优2

1.2 谁需要做性能调优5

1.3 什么是性能分析7

1.4 本书的主要内容8

1.5 本书不包含什么内容9

1.6 本章总结10

第一部分 现代CPU性能分析

第2章 性能测量12

2.1 现代系统中的噪声13

2.2 生产环境中的性能测量15

2.3 自动检测性能退化问题16

2.4 手动性能测试18

2.5 软件计时器和硬件计时器22

2.6 微基准测试24

2.7 本章总结25

第3章 CPU微架构27

3.1 指令集架构27

3.2 流水线28

3.3 利用指令级并行30

3.3.1 乱序执行30

3.3.2 超标量引擎和超长指令字31

3.3.3 投机执行33

3.4 利用线程级并行34

3.5 存储器层次35

3.5.1 高速缓存层次35

3.5.2 主存39

3.6 虚拟内存39

3.7 单指令多数据多处理器40

3.8 现代CPU设计42

3.8.1 CPU前端42

3.8.2 CPU后端44

3.9 性能监控单元44

第4章 性能分析中的术语和指标47

4.1 退休指令与执行指令47

4.2 CPU利用率48

4.3 CPI和IPC48

4.4 微操作49

4.5 流水线槽位51

4.6 核时钟周期和参考时钟周期51

4.7 缓存未命中52

4.8 分支预测错误53

第5章 性能分析方法55

5.1 代码插桩56

5.2 跟踪58

5.3 负载表征59

5.3.1 统计性能事件59

5.3.2 手动收集性能计数60

5.3.3 事件多路复用和缩放62

5.4 采样63

5.4.1 用户模式采样和基于硬件

            事件的采样64

5.4.2 寻找热点64

5.4.3 采集调用栈66

5.4.4 火焰图69

5.5 屋顶线性能模型69

5.6 静态性能分析73

5.7 编译器优化报告75

5.8 本章总结78

第6章 性能分析相关的CPU特性80

6.1 自顶向下微架构分析技术81

6.1.1 Intel VTune Prof iler中的

            TMA84

6.1.2 Linux perf中的TMA85

6.1.3 第一步：确定瓶颈86

6.1.4 第二步：定位具体的代码

            位置88

6.1.5 第三步：解决问题90

6.1.6 小结91

6.2 最后分支记录92

6.2.1 采集LBR栈94

6.2.2 获取调用图95

6.2.3 识别热点分支96

6.2.4 分析分支预测错误率97

6.2.5 机器码的准确计时98

6.2.6 评估分支输出的概率100

6.2.7 其他应用场景101

6.3 基于处理器事件的采样101

6.3.1 精准事件102

6.3.2 降低采样开销103

6.3.3 分析内存访问104

6.4 Intel处理器跟踪技术105

6.4.1 工作流105

6.4.2 时间报文106

6.4.3 采集和解析跟踪文件107

6.4.4 用法108

6.4.5 磁盘空间和解析时间109

6.5 本章总结110

第二部分 基于源代码的

CPU调优

第7章 CPU前端优化117

7.1　机器码布局118

7.2　基本块118

7.3　基本块布局119

7.4　基本块对齐121

7.5　函数拆分123

7.6　函数分组125

7.7　基于剖析文件的编译优化126

7.8　对ITLB的优化128

7.9　本章总结128

第8章 CPU后端优化130

8.1　内存绑定130

8.1.1　缓存友好的数据结构131

8.1.2　显式内存预取136

8.1.3　针对DTLB优化138

8.2　核心绑定141

8.2.1　函数内联141

8.2.2　循环优化143

8.2.3　向量化149

8.3　本章总结158

第9章 优化错误投机160

9.1　用查表替换分支161

9.2　用断言替换分支162

9.3　本章总结164

第10章 其他调优165

10.1　编译时计算165

10.2　编译器内建函数166

10.3　缓存预热167

10.4　减少慢速浮点运算168

10.5　系统调优169

第11章 优化多线程应用程序171

11.1　性能扩展和开销171

11.2　并行效率指标174

11.2.1　有效CPU利用率174

11.2.2　线程数量174

11.2.3　等待时间175

11.2.4　自旋时间175

11.3　使用Intel VTune Profiler进行

           分析175

11.3.1　寻找耗时锁175

11.3.2　平台视图178

11.4　使用Linux perf进行分析178

11.5　使用Coz进行分析181

11.6　使用eBPF和GAPP进行分析181

11.7　检测一致性问题182

11.7.1　缓存一致性协议182

11.7.2　真共享184

11.7.3　伪共享184

11.8　本章总结186

附录A 减少测量噪声188

附录B LLVM向量化程序193

跋198

术语200

参考文献20