本文为《人工智能时代与人类价值》一书的前言。该书是美国外交家亨利·基辛格生前的最后一本书，与谷歌前CEO埃里克·施密特及微软前首席研究和战略官克雷格·蒙迪共同写作。

新书审视了人工智能领域的最新进展，直面人工智能带来的关乎人类生存的最为紧迫的问题：“如果被迫与机器妥协，我们的底线是什么？在判断如何跟上AI步伐时，人类需要更清楚地断言我们与机器的区别。如果不能就我们是谁达成一致，人类就有可能完全把定义我们价值、因此证明我们存在的生存任务交给机器。”

【文/ 尼尔·弗格森】

2018年6月《大西洋月刊》刊登亨利 · 基辛格撰写的《启蒙是如何终结的》一文后，众人颇为惊讶。这位年迈的政治家居然对人工智能这一课题有自己的见解。那年他刚满95岁。当时人工智能还不是一个热门话题。直到2022年下半年OpenAI 开发出 ChatGPT 后，人工智能才火了起来。

作为基辛格的传记作者，我觉得人工智能问题引起他的关注没有什么可惊奇的。早在1957年，基辛格就因撰写了一本讲述一项颠覆世界的新技术的书而声名鹊起，该书名叫《核武器与对外政策》。他对核武器的深入研究甚至博得罗伯特·奥本海默的赞誉，称该书“内容之丰富翔实，在核军备领域还是首次看到……紧扣事实，激情四射，论说观点锐利”。

基辛格攻读博士学位时沉浸在19世纪初欧洲外交史中。然而在此后的生涯中，他始终清醒地认识到，大国政治的永恒流转时不时会被技术变革打断。与他同代的无数人在第二次世界大战期间服役。和这些人一样，基辛格不仅目睹了现代武器造成的大规模死亡和毁灭，还看到了希特勒第三帝国的“变态科学”（丘吉尔所称）给自己所属的犹太民族带来的惨重后果。

基辛格有“好战者”之名。其实他根本不是什么好战者。基辛格成年后，终其一生矢志不渝地致力于防止第三次世界大战的发生——美苏冷战若是转成热战将产生令世人恐惧的后果。他深知，核裂变技术会使下一次世界大战的毁灭力远超第二次世界大战。在《核武器与对外政策》一书的开篇，基辛格估算了一枚千万吨级核弹投到纽约会造成的毁灭性后果。根据他的推算，苏联对美国50个大城市发动一次全面袭击会杀死1500万～2000万人，外加2000万～2500万人受伤。除此之外，还有500万～1000万人会死于放射性污染，也许还有700万～1000万人会染上疾病，幸存者会面临“社会解体”。基辛格指出，即使美国遭到苏联的全面核攻击，也有能力令苏联遭受同样的毁灭。结论不言而喻：“因此，一场全面战争的唯一结果是交战双方必输无疑。”一场全面战争没有赢家，“因为哪怕是较弱的一方也有能力造成任何社会都无法承受的毁灭”。

然而，基辛格并没有因为年轻时怀有的理想主义而成为一个和平主义者。在《核武器与对外政策》一书中，他直言道，“削减核军备不大可能避免恐怖的核战争”，军备核查制度同样不能。问题不在于是否可以完全避免战争，而在于是否“有可能运用想象力想出毁灭力小于全面热核战争的行使权力的方式”。如果不可能，美国及其盟国几乎无法赢得冷战。基辛格在发表于《记者》杂志的文章《控制、检查和有限战争》中告诫说：“如果缺乏任何通常意义上的对有限战争的理解，会导致抵制苏联行径的心理框架垮塌。如果战争被视为全民自杀，两害相权取其轻，人们也许会选择投降。”

基辛格正是依据以上结论，在《战略与组织》一文中提出了有限核战争理论：

在热核战争毁灭的不祥背景下，战争的目标再也不能是迄今为止所知的军事上的胜利，而应是实现对手完全理解的某些具体政治条件。有限战争的目的是给敌人造成与有争议的目标不成比例的损失或风险。目标越节制，战争的毁灭性可能越小。

为此需要了解另一方的心理活动及其军事能力。

基辛格《核武器与对外政策》

当年基辛格思索一场有限核战争令不少人不寒而栗，觉得他冷酷无情。部分学者，例如托马斯·谢林，认为基辛格所说的无法抑制其实是可以避免的。日后甚至连基辛格本人也不再提及自己提出的这一观点。实际情况是，两个超级大国都根据基辛格在《核武器与对外政策》一书中概述的逻辑制造和部署了战场核武器或战术核武器。从理论上讲，有限核战争也许不可行。然而双方军事规划者的所作所为让人觉得，有限核战争实际上或许是可行的。（其实这类核武器直到今天依然存在。自从俄罗斯陷入俄乌冲突泥沼，俄罗斯政府不止一次威胁使用核武器。）

基辛格始终在思考技术变革对政治领域的影响。1968年1月，他为纳尔逊·洛克菲勒写过一篇早已被人遗忘的文章，文中展望了计算机化或许能帮助决策者处理美国政府机构生成的日益繁多的信息的种种方式。基辛格认为，高级官员面临被数据淹没的极大风险。他写道：“最高决策者掌握的信息数不胜数，危急时刻，他根本无力处理这些信息。”基辛格提出，决策者需要“不断听取动荡地区的简报”，包括潜在的动荡地区，“即使这些地区未被列为重中之重”。同时幕僚还需要向决策者提出“数个行动选项……概括为应对可预见局势的数个重大备选方案，并对每一个选项很有可能在本国国内及海外造成的种种后果做出评估”。

基辛格承认，为了达到全覆盖，需要对程序设计、信息存储、检索和图像大力投资。好在现有的“硬件技术”可以执行所有这四个职能。

如今可以把与每一个美国人相关的数百个信息类别存储在一个2400英尺（约732米）长的磁带存储器里……第三代计算机现在可以以纳秒（十亿分之一秒）的速度操作基本的机器运算……实验性的分时系统已经证明，用于大型数据计算机的多路访问能力或许可以做到分置于世界各地的执行站和操作站均可以输入或输出信息。过不了多久，就会出现用于计算机输出的彩色阴极射线管显示屏。

出任尼克松的国家安全事务助理满一年后，基辛格曾想搞一台这种类型的计算机自己用，结果被中央情报局驳回了，想必是即使没有计算机，基辛格也已经让情报机构难以招架了。

亨利·基辛格从未退休。他无时无刻不为人类的未来担忧。这样一个人怎么可能会对他晚年出现的最重要的技术突破——生成式人工智能的开发和使用视而不见呢？认识这一新生技术的意义耗费了基辛格在世最后几年的大量时间和精力。

《人工智能时代与人类未来》这本书是基辛格与两位知名技术专家埃里克·施密特和克雷格·蒙迪合著的，也是他撰写的最后一本书。此书带有这几位创新者与生俱来的乐观主义印记。他们展望了“技术人(Homo technicus)，一种在这个新时代可能与机器技术共生的人类物种”的演进前景。他们认为，人工智能很快就会被用来“创造人类财富和福祉的新基准……即便不能完全消除之前蹂躏人类的各种劳动、阶级和冲突压力，至少也可以减轻这些压力”。采用人工智能甚至有可能导致深刻的变革，消除种族、性别、国籍、出生地和家庭背景之间的差异。

一连串的警告构成这本书的中心思想，从中可以辨识出这位最年长作者的贡献：“人工智能的出现是一个关乎人类生存的问题……人工智能还面临着控制不当的挑战，它可能以破坏性的方式积累知识……”下面这段话是基辛格最初在《启蒙是如何终结的》一文中提出的问题，刊登在2018年的《大西洋月刊》上。这本书没有用原文，但一看就知出自基辛格：

人工智能具备通过非人类手段精确认知我们这个世界的客观能力。这不仅打破了我们对过去500年人类孜孜以求的科学方法的依赖，还挑战了人类声称只有自己才真正了解现实，或人类对现实的了解独一无二的说法。

这可能意味着什么？人工智能时代会不会不仅不能推动 人类向前迈进，反而会让人类加速倒退回前现代社会接 受不加解释的权威的日子？简而言之，我们是不是正濒临或者也许会濒临人类认知大倒退的悬崖边缘——一种黑暗启蒙？

笔者觉得，此书中最令人感到震撼的内容是合著者思考了令人无比担忧的人工智能武器竞赛。合著者写道：“倘若每一个人类社会……都想最大限度地扩充单边实力，势必会引发敌对双方的军队和情报机构展开一场迄今人类闻所未闻的心理战。从今天起，直至首个超级智能降临前的数年、数月、数周和数天内，事关人类生存的安全困境始终等待着我们。”

如果我们正在目睹“一场为了得到唯一一个完美无瑕、毫无疑问具有主导优势的智能而进行的竞争”，会产生什么后果？我数了一下，合著者一共设想了6种可能发生的情景，没有一个有吸引力。

1.人类将失去对一场攸关人类生存的竞争的控制。参与竞争的多个行为者深陷安全困境而不能自拔。

2.一个不受任何制衡机制束缚的胜利者将高高在上，肆意妄为。人类会不堪其淫威。历史上为了保证其他人的基本安全需要制衡机制。

3.世界上不会只有一个超级人工智能，而会有多种超级智能。

4.拥有和开发人工智能的公司可以积聚巨大的社会、经济、军事和政治权力。

5.人工智能也许不是在一国体制内，而是在宗教体制内用处最大，传播范围最广，持久性最强。

6.如果对开放源代码的扩散放任不管，有可能会导致冒出一些小团伙或集团。它们拥有的人工智能虽然不甚完美，但是不容小觑。

基辛格对以上可能发生的情景忧心忡忡，他为防止发生以上情景做出的努力没有止于撰写此书。众所周知，基辛格此生所做的最后一次努力是启动了中美两国就限制人工智能武器进行谈判的进程。他在百岁生日过后的最后几个月里，为此耗尽了残留的元气。基辛格这样做正是为了预防以上种种反乌托邦后果。

这本书的结论毫无疑问代表了基辛格的观点：

被有些人视为能让我们在风暴中站稳脚跟的锚，在另一些人眼里是束缚我们的绳套。被一些人赞誉为攀登一座人类潜力高峰的必要步伐，在其他人眼里是愣头愣脑冲向深渊的愚蠢之举。

在这种情况下，源自本能的千差万别的情感——外加各方划出的主观界限——将造成一种不可逆料的易燃局势。潜在“赢家”和“输家”日趋严厉的立场将增大这种形势的压力。惊恐者会放慢自己的研发步伐，同时破坏他方的研发。信心满满者会隐瞒自身实力，秘密提速研发工作。今后爆发的危机时间表会提速，为此前的人类所未见。人类很快会被危机吞没。目前尚不清楚人类能否存活，如何存活。

技术专家对这类不祥之兆的反应通常是提醒我们人工智能带来的可见益处。医学科学领域内产生的成果已显而易见。我对此不持异议。以我之见，较之 ChatGPT，AlphaFold 这一突破的重要性远超前者。后者是一种可预测蛋白质三维结构的神经网络模型。不过20世纪医学科学也有过重大进展，例如，发明和普及了抗生素、种种新疫苗，以及数不清的其他疗法。尽管如此，世界大战和种族灭绝还是发生了。

技术进步的核心问题体现在亨利·基辛格的一生中。1938年，柏林的两位德国化学家奥托·哈恩和弗里茨·施特拉斯曼发现了核裂变现象。1939年，出生在奥地利的两位物理学家莉泽·迈特纳和她的侄子奥托·罗伯特·弗里施给出了核裂变在理论上的解释并为之命名。一次核链式反应可能导致“释放出大规模能量和放射性物质，很不幸，也许还会催生原子弹”。

这一真知灼见出自匈牙利物理学家利奥·西拉德。当时物理学家们也认识到，或许有可能把链式反应控制在一个核反应堆中，借此产生热能。然而，制造第一颗原子弹仅用了三年时间。而直到1951年，第一座实验性核电站才建成。

读者不妨问问自己，过去80年里人类造得更多的是核弹头还是核电站？今天，世界上大约有12500枚核弹头，而且这一数字还在不断上升。与此形成鲜明对比的是，现在只有 436座核反应堆正在运行。从绝对值来看，2006年核能发电量达到了峰值。核电站发电量占全世界总发电量的比例从1996年的15.5%下降至2022年的8.6%。原因之一是为数不多的核事故引发了过度的政治反应。与化石燃料排放的二氧化碳相比，这些事故对人类健康和环境的损害微乎其微。

亨利·基辛格的一生给人的启示显而易见。技术进步的后果既可以是良性的，也可以是恶性的，这取决于人类共同决定如何利用技术进步。当然，人工智能在诸多方面不同于核裂变。然而，如果想当然地认为这一新技术会被更多地用于建设性而非毁灭性的目的，将会铸下大错。

亨利·基辛格的真知灼见来自历史经验和个人经历。正是他的真知灼见激励他在一生中花费大量时间研究世界秩序和如何避免世界大战。这也是为什么他对最新的人工智能突破的反应如此迅速，忧虑如此之深。这也是为什么他的这部遗作与他在自己漫长而又显赫的一生中撰写的任何文章同样重要。

尼尔·弗格森，2024年7月写于牛津

《人工智能时代与人类价值》，作者：亨利·基辛格 、埃里克?施密特、 克雷格·蒙迪，译者：胡利平 风君，中信出版·方舟工作室2025年版