作者：

 Fandango利用自己在深度学习、计算方法和分布式计算方面的专业知识，创造了人工智能（AI）产品。他为Owen.ai公司在AI产品战略方面提供建议。他创建了NeuraSights公司，其目标是利用神经网络创建有技术深度的产品。他还创建了Vets2Data公司，这家非盈利机构主要帮助美国退役军人掌握AI技能。
Armando出版了2本专著，并在国际期刊和会议上发表了他的研究成果。

译者：

刘波博士，重庆工商大学人工智能学院副教授，主要研究领域为机器学习理论、计算机视觉和自然语言处理，同时爱好Hadoop和Spark平台上的大数据分析。

何希平博士，重庆工商大学人工智能学院院长、教授，主要研究领域为时序分析、推荐系统。

TensorFlow是目前流行的数值计算库，专用于构建分布式、云计算和移动环境。TensorFlow将数据表示为张量，将计算表示为计算图。
《精通TensorFlow》是一本综合指南，可让您理解TensorFlow 1.x的高级功能，深入了解TensorFlow 内核、Keras、 TF Estimator、TFLearn、TF Slim、PrettyTensor和Sonnet。利用TensorFlow和Keras提供的功能，使用迁移学习、生成对抗网络和深度强化学习等概念来构建深度学习模型。通过本书，您将获得在各种数据集（例如 MNIST、CIFAR-10、PTB、text8和COCO图像）上的实践经验。
您还能够学习TensorFlow1.x的高级功能，例如分布式TensorFlow，使用TensorFlow服务部署生产模型，以及在Android和iOS平台上为移动和嵌入式设备构建和部署TensorFlow模型。您将看到如何在R统计软件中调用 TensorFlow和Keras API，还能了解在TensorFlow的代码无法按预期工作时所需的调试技术。
《精通TensorFlow》可帮助您深入了解TensorFlow，使您成为解决人工智能问题的专家。总之，在学习本书之后，可掌握TensorFlow和Keras的产品，并获得构建更智能、更快速、更高效的机器学习和深度学习系统所需的技能。

《精通TensorFlow》深入介绍了Keras与核心TensorFlow库，并探讨了高级主题，如Sonnet、带有TF集群的分布式TensorFlow、使用TensorFlow服务部署生产模型、TensorFlow在移动设备和嵌入式设备上的开发。

《精通TensorFlow》涉及很多先进的技术，比如深度学习模型中的RNN、CNN、自编码器、生成对抗模型和深度强化学习。Armando Fandango利用他的经验对这些内容进行了清楚的讲解，有助于读者更方便地理解这些复杂的内容。

Ajit Jaokar  

牛津大学物联网课程创建者和首席数据科学家

译者序

原书序

原书前言

第 1章　TensorFlow 101 // 1 

1.1　什么是 TensorFlow // 1 

1.2　TensorFlow内核 // 2 

1.2.1　简单的示例代码 -Hello TensorFlow // 2 

1.2.2　张量 // 3 

1.2.3　常量 // 4 

1.2.4　操作 // 5 

1.2.5　占位符 // 6 

1.2.6　从 Python对象创建张量 // 7 

1.2.7　变量 // 9 

1.2.8　由库函数生成的张量 // 10 

1.2.9　通过 tf.get_variable( )获取变量 // 13 

1.3　数据流图或计算图 // 14 

1.3.1　执行顺序和延迟加载 // 15 

1.3.2　跨计算设备执行计算图 -CPU和 GPU // 15 

1.3.3　多个计算图 // 18 

1.4　TensorBoard // 19 

1.4.1　TensorBoard最小的例子 // 19 

1.4.2　TensorBoard的细节 // 21 

1.5　总结 // 21

第 2章　TensorFlow的高级库 // 22 

2.1　TF Estimator // 22 

2.2　TF Slim // 24 

2.3　TFLearn // 25 

2.3.1　创建 TFLearn层 // 26 

2.3.2　创建 TFLearn模型 // 30 

2.3.3　训练 TFLearn模型 // 30 

2.3.4　使用 TFLearn模型 // 30 

2.4　PrettyTensor // 31 

2.5　Sonnet // 32 

2.6　总结 // 34

第 3章　Keras101 // 35 

3.1　安装 Keras // 35 

3.2　Keras的神经网络模型 // 36 

3.2.1　在 Keras中创建模型的过程 // 36 

3.3　创建 Keras模型 // 36 

3.3.1　用于创建 Keras模型的序列化 API // 36 

3.3.2　用于创建 Keras模型的功能性 API // 37 

3.4　Keras的层 // 37 

3.4.1　Keras内核层 // 37 

3.4.2　Keras卷积层 // 38

3.4.3　Keras池化层 // 38 

3.4.4　Keras局连接层 // 39 

3.4.5　Keras循环层 // 39 

3.4.6　Keras嵌入层 // 39 

3.4.7　Keras合并层 // 39 

3.4.8　Keras高级激活层 // 40 

3.4.9　Keras归一化层 // 40 

3.4.10　Keras噪声层 // 40 

3.5　将网络层添加到 Keras模型中 // 40 

3.5.1　利用序列化 API将网络层添加到 Keras模型中 // 40 

3.5.2　利用功能性 API将网络层添加到 Keras模型中 // 41 

3.6　编译 Keras模型 // 41 

3.7　训练 Keras模型 // 42 

3.8　使用 Keras模型进行预测 // 42 

3.9　Keras中的其他模块 // 43 

3.10　基于 MNIST数据集的 Keras顺序模型示例 // 43 

3.11　总结 // 45

第 4章　基于TensorFlow的经典机器学习算法 // 47 

4.1　简单的线性回归 // 48 

4.1.1　数据准备 // 49 

4.1.2　建立简单的回归模型 // 50 

4.1.3　使用训练好的模型进行预测 // 55 

4.2　多元回归 // 55 

4.3　正则化回归 // 58 

4.3.1　Lasso正则化 // 59 

4.3.2　岭正则化 // 62 

4.3.3　弹性网正则化 // 64 

4.4　使用 Logistic回归进行分类 // 65 

4.4.1　二分类的 Logistic回归 // 65 

4.4.2　多类分类的 Logistic回归 // 66 

4.5　二分类 // 66 

4.6　多分类 // 69 

4.7　总结 // 73

第 5章　基于 TensorFlow和 Keras的神经网络和多层感知机 // 74 

5.1　感知机 // 74 

5.2　多层感知机 // 76 

5.3　用于图像分类的多层感知机 // 77 

5.3.1　通过 TensorFlow构建用于 MNIST分类的多层感知机 // 77 

5.3.2　通过 Keras构建用于 MNIST分类的多层感知机 // 83 

5.3.3　通过 TFLearn构建用于 MNIST分类的多层感知机 // 85 

5.3.4　多层感知机与 TensorFlow、 Keras和 TFLearn的总结 // 86 

5.4　用于时间序列回归的多层感知机 // 86 

5.5　总结 // 89

第 6章　基于TensorFlow和Keras的 RNN // 90 

6.1　简单 RNN // 90 

6.2　RNN改进版本 // 92 

6.3　LSTM网络 // 93 

6.4　GRU网络 // 95 

6.5　基于TensorFlow的 RNN // 96 

6.5.1　TensorFlow的RNN单元类 // 96 

6.5.2　 TensorFlow 的RNN模型构造类 // 97 

6.5.3　 TensorFlow的 RNN单元封装类 // 97 

6.6　基于Keras的 RNN // 98 

6.7　RNN的应用领域 // 98 

6.8　将基于Keras的 RNN用于MNIST数据 // 99 

6.9　总结 // 100

第 7章　基于TensorFlow和 Keras的 RNN在时间序列数据中的应用 //101 

7.1　航空公司乘客数据集 // 101 

7.1.1　加载 airpass数据集 // 102 

7.1.2　可视化 airpass数据集 // 102 

7.2　使用TensorFlow为 RNN模型预处理数据集 // 103 

7.3　TensorFlow中的简单 RNN // 104 

7.4　TensorFlow中的 LSTM网络 // 106 

7.5　TensorFlow中的 GRU网络 // 107 

7.6　使用 Keras为 RNN模型预处理数据集 // 108 

7.7　基于 Keras的简单 RNN // 109 

7.8　基于 Keras的 LSTM网络 // 111 

7.9　基于 Keras的 GRU网络 // 112 

7.10　总结 // 113

第 8章　基于TensorFlow和 Keras的RNN在文本数据中的应用 // 114 

8.1　词向量表示 // 114 

8.2　为 word2vec模型准备数据 // 116 

8.2.1　加载和准备PTB数据集 // 117 

8.2.2　加载和准备text8数据集 // 118 

8.2.3　准备小的验证集 // 119 

8.3　使用TensorFlow的 skip-gram模型 // 119 

8.4　使用t-SNE可视化单词嵌入 // 124 

8.5　基于Keras的 skip-gram模型 // 126 

8.6　使用TensorFlow和 Keras中的 RNN模型生成文本 // 130 

8.6.1　使用TensorFlow中的 LSTM模型生成文本 // 131 

8.6.2　使用Keras中的 LSTM模型生成文本 // 134 

8.7　总结 // 137

第 9章　基于TensorFlow和Keras的 CNN // 138 

9.1　理解卷积 // 138 

9.2　理解池化 // 141 

9.3　CNN架构模式 - LeNet // 142 

9.4　在MNIST数据集上构建 LeNet // 143 

9.4.1　使用 TensorFlow的 LeNet CNN对 MNIST数据集进行分类 // 143 

9.4.2　使用 Keras的 LeNet CNN对MNIST数据集进行分类 // 146 

9.5　在CIFAR10数据集上构建LeNet // 148 

9.5.1　使用TensorFlow的 CNN对CIFAR10数据集进行分类 // 149 

9.5.2　使用Keras的 CNN对CIFAR10数据集进行分类 // 150 

9.6　总结 // 151

第 10章　基于TensorFlow和Keras的自编码器 // 152 

10.1　自编码器类型 // 152 

10.2　基于TensorFlow的堆叠自编码器 // 154 

10.3　基于Keras的堆叠自编码器 // 157 

10.4　基于TensorFlow的去噪自编码器 // 159 

10.5　基于Keras的去噪自编码器 // 161 

10.6　基于TensorFlow的变分自编码器 // 162 

10.7　基于Keras的变分自编码器 // 167 

10.8　总结 // 170

第 11章　使用TF服务提供生成环境下的 TensorFlow模型 // 171 

11.1　在 TensorFlow中保存和恢复模型 // 171 

11.1.1　使用saver类保存和恢复所有网络计算图变量 // 172 

11.1.2　使用saver类保存和恢复所选变量 // 173 

11.2　保存和恢复 Keras模型 // 175 

11.3　TensorFlow服务 // 175 

11.3.1　安装TF服务 // 175 

11.3.2　保存TF服务的模型 // 176 

11.3.3　使用TF服务提供服务模型 // 180 

11.4　在Docker容器中提供 TF服务 // 181 

11.4.1　安装Docker // 182 

11.4.2　为TF服务构建 Docker镜像 // 183 

11.4.3　在Docker容器中提供模型 // 185 

11.5　基于Kubernetes的 TF服务 // 186 

11.5.1　安装 Kubernetes // 186 

11.5.2　将 Docker镜像上传到dockerhub // 187 

11.5.3　在 Kubernetes中部署 // 188 

11.6　总结 // 192

第 12章　迁移学习模型和预训练模型 // 193 

12.1　ImageNet数据集 // 193 

12.2　重新训练或微调模型 // 196 

12.3　COCO动物数据集和预处理图像 // 197 

12.4　TensorFlow中的 VGG16 // 203 

12.4.1　使用TensorFlow中预先训练的VGG16进行图像分类 // 204 

12.5　将TensorFlow中的图像预处理用于预先训练的 VGG16 // 208 

12.5.1　使用TensorFlow中重新训练的VGG16进行图像分类 // 209 

12.6　Keras中的 VGG16 // 215 

12.6.1　使用Keras中预先训练的VGG16进行图像分类 // 215 

12.6.2　使用Keras中重新训练的VGG16进行图像分类 // 220 

12.7　TensorFlow中的 Inception v3 // 226 

12.7.1　使用TensorFlow中 Inception v3进行图像分类 // 226 

12.7.2　使用TensorFlow中重新训练的Inception v3进行图像分类 // 231

12.8　总结 // 237

第 13章　深度强化学习 // 238 

13.1　OpenAI Gym 101 // 239 

13.2　将简单的策略应用于 cartpole游戏 // 242 

13.3　强化学习 101 // 246 

13.3.1　Q函数（在模型无效时学习优化）// 246 

13.3.2　强化学习算法的探索与开发 // 246 

13.3.3　V函数（在模型可用时学习优化）// 247 

13.3.4　强化学习技巧 // 247 

13.4　强化学习的朴素神经网络策略 // 248 

13.5　实施 Q-Learning // 250 

13.5.1　Q-Learning的初始化和离散化　// 251 

13.5.2　基于Q表的 Q-Learning // 252 

13.5.3　使用Q网络或深度 Q网络（DQN）进行 Q-Learning // 253 

13.6　总结 // 254

第 14章　生成对抗网络（GAN） // 256 

14.1　GAN 101 // 256 

14.2　建立和训练 GAN的最佳实践 // 258 

14.3　基于TensorFlow的简单 GAN // 258 

14.4　基于Keras的简单 GAN // 263 

14.5　基于TensorFlow和 Keras的深度卷积 GAN // 268 

14.6　总结 // 270

第 15章　基于TensorFlow集群的分布式模型 // 271 

15.1　分布式执行策略 // 271 

15.2　TensorFlow集群 // 272 

15.2.1　定义集群规范 // 274 

15.2.2　创建服务器实例 // 274 

15.2.3　定义服务器和设备之间的参数和操作 // 276 

15.2.4　定义并训练计算图以进行异步更新 // 276 

15.2.5　定义并训练计算图以进行同步更新 // 281 

15.3　总结 // 282

第 16章　移动和嵌入式平台上的TensorFlow模型 // 283 

16.1　移动平台上的 TensorFlow // 283 

16.2　Android应用程序中的 TF Mobile // 284 

16.3　演示Android上的 TF Mobile // 285 

16.4　iOS应用程序中的 TF Mobile // 287 

16.5　演示iOS上的TF Mobile // 288 

16.6　TensorFlow Lite // 289 

16.7　演示Android上的TF Lite应用程序 // 290 

16.8　演示iOS上的TF Lite应用程序 // 291 

16.9　总结 // 291

第 17章　R中的 TensorFlow和 Keras // 292 

17.1　在R中安装 TensorFlow和 Keras软件包 // 292 

17.2　R中的TF核心 API // 294 

17.3　R中的TF Estimator API // 295 

17.4　R中的Keras API // 297 

17.5　R中的TensorBoard // 300 

17.6　R中的tfruns包 // 302 

17.7　总结 // 304

第 18章　调试TensorFlow模型 // 305 

18.1　使用tf.Session.run( )获取张量值 // 305 

18.2　使用tf.Print( )输出张量值 // 306 

18.3　使用tf.Assert( )断言条件 // 306 

18.4　使用TensorFlow调试器（tfdbg）进行调试 // 308 

18.5　总结 // 310

附录　张量处理单元 // 311