马特·R科尔（Matt R Cole）是一名经验丰富的开发人员和作者，在Microsoft Windows、C、C++、 C#和NET方面有30年的经验。他是Evolved AI Solutions公司的老板，该公司是高级机器学习/生物AI技术的主要供应商。他开发了个完全用C#和NET编写的企业级微服务框架，该框架被纽约一家大型对冲基金生产。他还开发了个完全整合镜像和标准神经元的生物人工智能框架。

本书遵循循序渐进、兼顾理论和实践的原则，从神经网络基本概念入手，以图文并茂的形式生动地讲解激活函数和反向传播等概念原理，并以人脸识别和动作检测为例，让读者直观地了解深度学习的应用场景，在知识内容方面，不但包含决策树、随机森林等常规算法，还重点讲解了LSTM、CNN神经网络等主流算法，在代码实践方面，比较深入地讲解开发细节，详细介绍了相关网络结构、参数调优和各种网络的对照比较，对程序员实际动手有比较强的参考意义。此外，本书还包含了常用激活函数，读者可以方便的在附录中查询相关函数特性，是一本集原理、实践与资料查询为一体的书籍。

译者序
前言
关于作者
关于审校者
第1章　快速预览 1
11　神经网络概述 2
111　神经网络训练 4
112　神经网络的结构指南 4
12　神经网络在当今企业中的作用 6
13　学习的类型 6
131　有监督学习 7
132　无监督学习 7
133　强化学习 7
14　了解感知器 7
15　了解激活函数 10
151　激活函数绘图 12
152　函数绘图 13
16　了解后向传播 16
17　小结 17
18　参考文献 17
第2章　构建第一个神经网络 18
21　一个简单的神经网络 18
22　神经网络训练 19
221　突触 20
222　神经元 21
223　前向传播 21
224　Sigmoid函数 21
225　后向传播 22
226　计算误差 23
227　计算梯度 23
228　更新权重 23
229　计算值 23
23　神经网络函数 24
231　创建新网络 24
232　导入现有网络 24
233　导入数据集 27
234　网络运算 27
235　导出网络 28
236　训练网络 28
237　测试网络 29
238　计算前向传播 29
239　将网络导出为JSON格式 29
2310　导出数据集 30
24　神经网络 30
25　例子 31
251　训练到最小值 31
252　训练到最大值 31
26　小结 32
第3章　决策树和随机森林 33
31　决策树 33
311　决策树的优点 34
312　决策树的缺点 35
313　何时应该使用决策树 35
32　随机森林 35
321　随机森林的优点 36
322　随机森林的缺点 36
323　何时应该使用随机森林 36
33　SharpLearning 37
331　术语 37
332　加载和保存模型 37
34　示例代码和应用程序 41
341　保存模型 41
342　均方差回归指标 41
343　F1分数 41
344　优化 42
345　示例应用程序1 42
346　示例应用程序2—葡萄酒质量 43
35　小结 45
36　参考文献 45
第4章　面部和运动检测 46
41　面部检测 46
42　运动检测 54
43　小结 59
第5章　使用ConvNetSharp训练CNN 60
51　热身 60
52　过滤器 64
53　创建网络 64
531　第一个简单的例子 65
532　第二个简单的例子 66
533　第三个简单的例子 67
534　使用Fluent API 68
54　GPU 68
55　使用MNIST数据集进行流畅设计训练 68
56　训练网络 69
561　测试数据 70
562　预测数据 71
563 　计算图 71
57　小结 73
58　参考文献 73
第6章　使用 RNNSharp训练自动编码器 74
61　什么是自动编码器 74
62　自动编码器的分类 74
621　标准自动编码器 75
622　变分自动编码器 76
623　降噪自动编码器 76
624　稀疏自动编码器 76
63　创建自己的自动编码器 76
64　小结 87
65　参考文献 88
第7章　用PSO代替后向传播 89
71　基础理论 89
711　群体智能 90
712　粒子群优化算法 90
72　用粒子群优化算法代替后向传播 94
73　小结 98
第8章　函数优化 99
81　入门 100
82　函数最小化和最大化 103
821　什么是粒子 104
822　Swarm初始化 106
823　图表初始化 107
824　状态初始化 108
825　控制随机性 109
826　更新群体位置 110
827　更新群速度 110
828　主程序初始化 110
829　运行粒子群优化 111
8210　用户界面 112
83　超参数和调参 113
831　函数 113
832　策略 114
833　维度大小 115
834　上限 115
835　下限 116
836　上限速度 116
837　下限速度 117
838　小数位 117
839　群体大小 117
8310　最大迭代次数 118
8311　惯性 119
8312　社交权重 120
8313　认知权重 121
8314　惯性权重 122
84　可视化 122
841　二维可视化 122
842　三维可视化 123
85　绘制结果 128
851　回放结果 128
852　更新信息树 130
86　添加新的优化函数 131
861　目的 131
862　添加新函数的步骤 131
863　添加新函数示例 132
87　小结 135
第9章　寻找最佳参数 136
91　优化 136
911　什么是适配函数 137
912　约束 137
913　元优化 139
92　优化方法 141
921　选择优化器 141
922　梯度下降 141
923　模式搜索 141
924　局部单峰采样 142
925　差异进化 142
926　粒子群优化 143
927　多优化联络员 143
928　网格 143
93　并行 144
931　并行化优化问题 144
932　并行优化方法 144
933　编写代码 144
934　执行元优化 146
935　计算适配度 146
936　测试自定义问题 148
9