范煜，江苏南通人，毕业于南京航空航天大学，研究员级高级工程师，中国商业联合会数据分析专业委员会专家组成员，中国移动集团、51CTO外聘大数据讲师，南通理工学院教师，著有《数据革命：大数据价值实现方法、技术与案例》。从事软件开发三十多年，大数据研究开发十多年，目前主要从事私有化部署类ChatGPT模型研究，以及硬件、软件、数据（OT、IT、DT）融合的智能系统开发。

第1章 人工智能概述 1

1.1 什么是人工智能 1

1.2 人工智能的发展历史 2

1.3 人工智能的分类 4

1.4 机器学习 5

1.5 深度学习 6

1.6 通用人工智能（AGI） 9

1.7 自然语言处理 10

1.8 生成式人工智能（AIGC） 11

1.9 强化学习 12

第2章 自然语言处理 15

2.1 自然语言处理的基本概念 15

2.2 自然语言处理的主要技术 15

2.3 自然语言处理的发展历史 16

2.4 语言模型 19

2.5 文本分类和聚类 24

2.6 分词和词性标注 26

2.7 命名实体识别 28

2.8 句法分析 29

2.9 情感分析 30

2.10 机器翻译 32

2.11 文本摘要 33

2.12 自然语言处理的商业应用 34

2.13 自然语言处理的发展趋势 39

第3章 OpenAI公司及其产品 40

3.1 OpenAI公司简介 40

3.2 OpenAI公司发展历史 40

3.3 OpenAI和微软的合作 41

3.4 OpenAI公司主要产品 42

第4章 ChatGPT关联技术 46

4.1 前馈神经网络 46

4.2 序列到序列模型（Seq2Seq） 47

4.3 自注意力机制 47

4.4 多头自注意力机制 48

4.5 自监督学习 48

4.6 Transformer 模型49

4.7 语言生成技术 51

4.8 多语种语言模型 52

4.9 预训练语言模型 53

4.10 生成式预训练模型（GPT） 54

4.11 近端策略优化算法（PPO） 54

4.12 词嵌入 55

4.13 Softmax分类器 56

4.14 指示学习和提示学习 57

IV

4.15 人类反馈强化学习（RLHF） 584.16 多模态 594.17 生成式对抗网络604.18 知识图谱和实体链接 614.19 GPU、TPU与模型训练 61

第5章 ChatGPT介绍 665.1 ChatGPT的主要功能 665.2 ChatGPT的开发历史 675.3 ChatGPT的开发目标 675.4 GPT模型的演化 685.5 GPT-3到ChatGPT的演化 715.6 模型的突破davinci-002 735.7 ChatGPT的模型调用 745.8 ChatGPT的训练过程 745.9 预训练素材来源 765.10 训练数据集 775.11 数据集标注 785.12 RLHF应用 795.13 计算资源与参数构成 815.14 ChatGPT存在的问题 82

第6章 GPT–3.5引擎介绍 846.1 GPT-3引擎 846.2 GPT-3.5引擎 856.3 ChatGPT和GPT-3的区别 856.4 预训练 856.5 词嵌入应用 866.6 多层Transformer模块 876.7 模型变体 88

第7章 ChatGPT使用指南 907.1 如何访问ChatGPT907.2 如何更有效地提问 917.3 提问技巧 957.4 会话线程 967.5 上下文 977.6 重生成答案 987.7 应对回答字数限制 997.8 使用小技巧 103

第8章 ChatGPT应用形式 1048.1 计算 1048.2 写代码 1068.3 解释代码 1078.4 高级语言转换成汇编语言 1088.5 反汇编 1108.6 程序文档生成 1118.7 程序语言转换 1128.8 程序模拟运行 1138.9 代码增加注释 1138.10 时间复杂度计算1148.11 代码优化方案 1158.12 修复代码Bug 1168.13 查询公式 1178.14 生成复杂公式 1198.15 生成图片（通过代码运行） 1208.16 生成表格 122

人工智能与ChatGPT 4校 文前.indd 42023/6/24 18:13:37

目 录

V

8.17 生成数据库文档123

8.18 自动生成SQL代码 123

8.19 不同数据库SQL命令转换 124

8.20 提取关键字 126

8.21 取名 126

8.22 转换人称 127

8.23 整理文字 127

8.24 生成流程图 128

8.25 英语论文摘要 130

第9章 OpenAI API 132

9.1 API概论 132

9.2 交互方式 132

9.3 关键概念 133

9.4 Playground工具 135

9.5 API例子 136

9.6 API访问 137

9.7 API使用 138

9.8 API参数 139

9.9 API功能模块 142

9.10 API端点（Endpoints） 143

9.11 文本生成 144

9.12 语言翻译 145

9.13 情感分析 145

9.14 文本摘要 147

9.15 文本相似度 149

9.16 文本分类 149

9.17 命名实体识别 152

9.18 聊天机器人 153

9.19 设置API响应字符数 155

9.20 API应用案例 156

第10章 构建自己的ChatGPT模型 160

10.1 为什么需要 160

10.2 如何训练 160

10.3 如何使用 161

10.4 训练代码示例 161

10.5 模型使用代码示例 163

10.6 训练数据集格式164

10.7 企业专有模型构建 164

第11章 ChatGPT用于数据分析 167

11.1 数据分析简介 167

11.2 数据准备 167

11.3 数据的可视化 170

11.4 聚类分析 180

11.5 相关性分析 184

11.6 预测 186

第12章 ChatGPT在不同领域的应用 190

12.1 工业领域 190

12.2 医疗领域 192

12.3 金融领域 193

12.4 教育领域 194

12.5 知识产权领域 195

VI

第13章综合应用示例 19813.1 筹备会议 19813.2 拟订方案 20413.3 申请专利 20913.4 软件开发 21813.5 解决生产技术问题 238

第14章教育行业应用示例 24614.1 拟定教学大纲 24614.2 撰写教案 25414.3 制作教学PPT 26414.4 出试卷 26714.5 编写毕业设计材料 27314.6 撰写毕业论文 28614.7 准备新建专业材料 295

参考文献299

人工智能与ChatGPT 4校 文前.indd 6

2023/6/24 18:13:38