奥勒·哈格斯特姆（Olle Häggström）

△  查尔姆斯理工学院数理统计学教授

△  2005年戴维逊奖得主

△ 瑞典皇家科学院院士、瑞典皇家工程学会及哥德堡皇家艺术与科学学会会士

奥勒·哈格斯特姆生于1967年，是一名博士生导师。他涉猎广泛，博学多才，在气候科学，人工智能和哲学领域成绩斐然，在概率论领域的研究成果更是备受关注。他在学术期刊上发表文章超过80篇，出版了多部瑞典语科普图书，是一位高产的科学论文和科普书作者。

哈格斯特姆分别在2004、2006年和2010年当选瑞典皇家科学院院士、哥德堡皇家艺术与科学学会会士及瑞典皇家工程学会会士。目前，他还是瑞典数学学会主席、瑞典研究理事会自然与工程科学委员会成员。

《西部世界》《生化危机》《银翼杀手》《超体》里的未来科技与灾难场面不再只是科幻电影的想象，众多科学家早已在严肃探讨基因改造、意识上传及超级人工智能的巨大价值和潜在风险。

作为其中一员，本书作者以科幻的笔触、现实主义的洞察力，揭示当下真实的科技步伐。他意识到，虽然小行星撞击、超级火山的爆发、外星人入侵等外部因素同样带来世界末日，但人为制造的全球变暖、与人为敌的智能爆炸、原子精确制造技术和人造传染病等7大科技突破带来的威胁，将以大得多的概率毁灭人类。他还指出，基因工程和脑机连接技术的发展，以及自我复制机的构想，将颠覆我们对自身的理解，把人类推入“后人类时代”。

面对创新可能造成的严峻挑战，作者用理性的思辨精神迎接科学的进步，不仅与弗朗西斯•福山对话“人的本质”，还提出“社会贴现率”的概念，阐发如何控制科技发展速度、平衡当下成本与未来收益的真知灼见。

弗兰西斯·福山

除非科学终结，否则历史不会终结。

叶海卡·德罗尔

国际政策科学权*、兰德公司（美国军事尖端技术及战略研究机构）前高级顾问

对于即将涌现的改变人类命运和生存环境的科学技术，本书提供了极为丰富的信息。它讨论了这些技术将会带来的巨大利益与潜在危险，并在参考了众多资料的基础上呈现看待问题的不同视角，让我们从作者的智慧见解中获益良多。

《新科学家》
《未来科技通史》 值得所有科学家与工程师一读，尤其推荐有雄心做*前沿科技研究的博士后读者阅读。作者对前沿科技的洞见谨慎细致、 独到深刻、 坦率真诚，
不同于卢德式辩论，本书以古典却发人深省的谦逊态度，尝试缓和当下狂热追求技术进步的趋势。
《金融时报》
这是一部深刻而透彻的科学概述作品。
《选择》
这是一次穿越技术可能性的迷人之旅， 强烈推荐。

第1章 好科学与怀科学

外星人犯了什么错误？
大约在 500 年后，人类第一次遇到了外星智慧种族。埃利泽·尤德考斯基（Eliezer Yudkowsky）那篇引人入胜的短篇小说《三界冲突》（Three Worlds Collide）由此展开。在此，我将在不过多剧透的基础上，叙述这篇小说的一些次要情节。
在相互初步了解之后，漫游太空的人类与外星智慧种族交流了各自在科学领域的发现。虽然两者在文化和表达方式上存在很大差异，但在物理、化学等大多数科学领域，双方的发现基本相同。或许这并没有什么值得大惊小怪的，毕竟两个种族同处一个宇宙。但值得注意的是，尽管外星人跟人类一样有普朗克常量的概念（当然二者对此的命名有别），双方计算出的数值也相差无几，并且几乎所有自然界的基本常量也都相同，但奥尔德森常量却是个例外。奥尔德森常量在此前几百年被人类发现，由此奠定的奥尔德森物理学的基础，成就了人类穿越虫洞的技术。但双方测算的奥尔德森常量值却相差近 10 个数量级——这着实让人目瞪口呆！为何偏偏在这个极为重要的常量上，这个科技发达、同样拥有穿越虫洞技术的外星文明会犯下如此大错？
小说中的几位主人公决定到飞船的图书馆中寻找答案。他们深入研究奥尔德森物理学，试图找出外星人在哪一步计算出错，或者错得如此离谱的原因。但他们发现的真相却更加让人瞠目结舌：外星人对奥尔德森常量的计算完全正确，错误的是人类！数个世纪以来，作为奥尔德森物理学基础的奥尔德森常量是错误的！为什么会这样呢？为了找出答案，他们继续深挖相关的档案，并最终弄清楚了事情的来龙去脉。原来，最早研究奥尔德森物理学的科学先驱们发现，只要掌握该领域的知识便可以将太阳转化为超新星，而制造相关设备的材料在普通的五金店里就能买到！这一发现令他们陷入极大的惶恐。面对这一事实，先驱们反复权衡后认为，如果将所有知识不加保留地公之于众，必将导致人类的灭顶之灾。所以，他们对真正的奥尔德森常量秘而不宣，转而给出一个虚假的数值 。
对这篇小说的剧透到此为止。现在，请设想自己是一名早期的奥尔德森物理学家，在意识到你的团队发现了灭世武器后，你该怎么做才算符合道德伦理？
在二十多年的科学生涯中，我见过许多有关科研伦理的意见。如果说有什么众人都认可的金玉良言，那便是绝不伪造科研成果！也就是说，不论结果是否符合（私下的）预期，只管遵循证据的指引走下去。科研人员永远不能因为自己想要不同的结果，就把研究成果秘而不宣。科学的真谛是大公无私、孜孜不倦地追求真理，而不论真理是什么。上述观点我曾多次听到，我自己也曾多次复述。按照这个原则，奥尔德森物理学家就应该将惊世骇俗的新发现公之于众，但公布之后，各路媒体极有可能蜂拥而至，世界末日迅速接踵而至。怎么做才是正确的？换作是我，我会像小说中的科学家一样，将“大公无私、孜孜不倦追求真理”之类的漂亮话抛诸脑后，竭尽全力掩盖研究成果（希望读者也会这么做）。科学原则固然很重要，不该轻易被僭越，但如果到了小说中描述的危及存亡之时，或许就应该顾全大局、放下原则，以免让地球与全人类遭受灭顶之灾。
小说中的现实：人类上空的核战阴霾
《三界冲突》毕竟是虚构的小说，书中设定的发生于遥远未来的情节是否真的与人类当今现实中的选择存在关联？
在某种程度上，刚刚的故事不太符合现实，但它确实阐明了一个观点：纵使崇尚不偏不倚、无拘无束地探寻科学的真理，我们也不应该罔顾实际情况，不惜一切代价袒护这种理念。而且在现实中，不少情境都与尤德考斯基的小说有异曲同工之妙。不论我们是否会在 21 世纪经历这些情境，我们将在随后的几个章节就其中的几个展开讨论。事实上，早在 20 世纪与 21 世纪早期，科学界就已经历过一些类似的道德困境。其中最有力的例子当数曼哈顿计划。 20 世纪 40 年代，一群天赋异禀的物理学家成功研发出原子弹。 1945 年 8 月，曼哈顿计划成功后，两颗原子弹立即被分别投放到广岛和长崎，造成约二十万受害者死亡。而这又导致了随后的美苏核武军备竞赛。我们很难评估人类有多侥幸，才在没有爆发全球核战的情况下熬过了冷战。
1983 年（正值大韩航空 007 号航班遭苏联击落后的紧张时期），错误的警报显示美国的核导弹正向苏联袭来，千钧一发之际，多亏苏联空军将领斯坦尼斯拉夫·彼得罗夫（Stanislav Petrov）的正确判断，危机才成功化解。这次错误警报和古巴导弹危机等事件表明，爆发全面核战的风险绝对不容忽视。即使到了今天，核战末日的阴霾依然笼
罩在全人类上空。
以上陈述无意评判参与曼哈顿计划的物理学家的道德对错。毕竟，事情并非三言两语就能说清。需要考虑的因素太多，其中最让人担心的，莫过于纳粹德国抢先成功研发原子弹的后果。关于这个道德问题的文章和书籍有很多，其中不少更是由研发原子弹的物理学家亲自编写而成的。理查德·费曼（Richard Feynman）的反思尤为有趣。他说自己
在参与曼哈顿计划的前后备受良心拷问，但在研发过程中全神贯注并没有顾虑太多，甚至没注意到纳粹德国在 1945 年 5 月已经投降，而使他投身原子弹研发的初始情况已不复存在。
广岛和长崎的核爆已过去 70 多年，为什么死于核战争的人数依然停留在几十万而不是变成几十亿？原因有很多，运气只是其一。最关键的原因是核武器技术（跟尤德考斯基小说的灭世武器不同）的简化过程十分缓慢，即使到了今天，这个过程对于普通人、恐怖组织，甚至较小的国家而言依然十分困难。但并非每种技术都像核技术一样难以掌握，以飞机和电子计算机为例，如果它们在问世 70 多年后依然是少数国家才拥有的宝贵工具，那么我根本无法想象世界现代史会是怎样的走向。
在研发出人类史上第一种大规模杀伤性武器——核武器之前，我们并不知道它的简化过程如此缓慢。为此我们应该感到庆幸，但不能指望下次还能这么走运。
说到下次，我立刻想到人为制造（或再制造）的致命性病毒。2005 年，美国的一些科学家宣布，他们成功重制了 1918 年和 1919 年让大约 5 000万人丧生的西班牙流感病毒。这一举动立即引发巨大争议，各界就实验相关的安全问题争论不休。最近，风波再起，某间实验室泄露了让禽流感病毒变异，并使其能在哺乳类动物间传播的技术细节。
事件发生后，美国生物安全顾问委员会先是发布声明表示，建议有关文章在发表前需要经过审核，后来却话锋一转，改称“有证据表明分享病毒变异的相关信息有助于预防大规模流行病的爆发，且流出的资料不太可能马上造成恐怖威胁”。最终，经过修订的学术论文完整出版发布。在舆论争议不断之际，一位微生物学家在接受一家电视台的新
闻采访时为发布行为辩护道：“恐怖分子不具备相关技术基础，就算他们据此得知了方法，也无法制造出变异的禽流感病毒。”然而就算恐怖分子不具备技术基础，这种言论也完全站不住脚。研究成果一旦发布便覆水难收，我们不仅要考虑恐怖组织当下的技术水平，还要考虑10 年、20 年甚至 50 年后的情况（这位微生物学家很可能做过仔细研究，并得出了不存在相关威胁的结论，但研究成果被恐怖分子利用的可能性依然存在）。

第1章：好科学与坏科学

外星人犯了什么错误？   

小说中的现实：人类上空的核战阴霾   

请保持警惕，此处恶龙出没   

未来之轮驶向何方   

第2章  冰与火之歌

冰：史前的雪球地球 

火：我们的温室世界 

驱动地球气候变化的力量 

二氧化碳扮演的角色 

让硫磺在天空飞一会儿

不存在的灵丹妙药   

公地危机的窘境 

第3章：打造更优秀的人类？

新人类：从弗兰肯斯坦到美丽新世界   

刻意设计意味着没有尊严？   

厌恶不等于智慧 

如果人人更聪明，世界会更好？   

基因改造：让选择最佳胚胎成为现实   

脑机接口：自由意志与集体意识的伦理选择 

延长我们的寿命

上传心智的哲学与现实   

冷冻人体：从死亡中苏醒过来 

第4章：计算机革命

“江湖骗子”的发明 

从图灵机到计算机革命   

机器人会抢走我们的饭碗吗？ 

终结者：创造人工智能的可能及后果   

第５章 走向纳米时代  

操控世界的技术 

进入人体的纳米机器人   

吞噬一切的灰蛊 

第6章 科学是什么？  

推理是一切错误的根源   

所有的乌鸦都是黑色的？ 

证伪主义：牛顿运动定律是错误的 

 未来主义与胡说八道

统计显著性：影响决策者的概率   

理性与实用之间的贝叶斯主义 

发明机器的人不懂科学？ 

第7章 荒谬的末日论  

人类灭绝的几率是95%！？

何为世界末日？ 

第8章 世界末日无法避免？

人类面临的危险 

自然风险   

科技发展带来的风险 

我们面临的麻烦有多大？ 

第9章 太空殖民与费米悖论

寂静的地外生命 

大筛选：上帝掷出正面的概率 

我们最终能够实现太空殖民吗？   

搜寻地外文明的戴森球   

不要回答，不要回答，不要回答！ 

第10章 我们想要什么，应该怎么做？  

事实与价值：我们想要怎样的世界 

现实与未来：我们如何取得平衡   

最重要的是防范风险 

上帝只是众神之一   

在未来面前，不要坐以待毙