李公明︱一周书记：在人工智能时代……生存，还是毁灭？

《智人之上：从石器时代到AI时代的信息网络简史》，[以色列] 尤瓦尔·赫拉利著，林俊宏译，中信出版社，2024年9月版，349页，79.00元

读尤瓦尔·赫拉利（Yuval Noah Harari）的《智人之上：从石器时代到AI时代的信息网络简史》（原作名: Nexus: A Brief History of Information Networks from the Stone Age to AI，2024；林俊宏译，中信出版社，2024年9月），竟然有一种痛快淋漓之感。尤瓦尔·赫拉利的思想锋利如刀、这部书的论述风格锋利如刀，论述议题的严重性和紧迫性已经容不下躲闪、退缩——在人类的AI时代，民主社会与极权社会将何去何从、人类的命运是死是活？！

Yuval Noah Harari， Nexus: A Brief History of Information Networks from the Stone Age to AI，Random House，2024

今年9月10日，全球同步发行该书的三个版本：英文原版和中文繁、简体版。这是开始阅读该书的时候值得关注的信息——“信息”就是该书的第一关键词，没有理由不首先关注“全球同步”“三个版本”这样的信息。那就从书名的“信息”入手吧。原书名“Nexus”在中文简体版改为“智人之上”，繁体版则是直译“连结”。看起来应该是“智人之上”更吸引眼球，但是更应该注意到，“连结”才是该书的核心概念——作者在书中一再说到本书的论述焦点就是信息、核心概念就是网络、联结和力量。

然后是来自该书封面的信息。有网友注意到英文版和中文简体版的封面的那只鸟是有区别的，英文版的那只鸟没有戴帽子，中文简体版的戴了帽子。有人找到中文简体版关于多了一顶“帽子”的据说是官方的解释：这顶帽子是为了给第一章“信息是什么？”中那只叫谢尔·阿米的军鸽增添角色感，同时象征着“故事”……于是回到该书第一章，除了军鸽谢尔·阿米，作者还谈到诺亚方舟故事的那只鸽子、1915年中东战争的加沙战役中传递信息的一扇百叶窗，于是就进入了该书的主题：媒介、情境、信息和真相之间的复杂关系……

还有就是来自一本汇集了国内二十多位名家推荐语和重磅导读文章的小册子的信息。我是在读完全书之后才读到这本小册子，发现只有一位导读者关注和介绍了在书中有大量篇幅论述的人工智能与国家的两种未来可能性的问题。这是偶然的还是带有某种必然性的信息？现在读到的这个版本里面承载的信息已经超出了预期——从信息政治学的视角论述了两种不同的信息网络类型，关于希特勒这样的独裁者如何垄断信息、监控社会、荼毒生灵，在该书里有不少案例分析和深刻的剖析。由此想到作者说“人类遇到的问题归根结底是个网络问题。讲得更明确一点，这是个信息问题。信息是维持网络联结的黏合剂”（序言）。

作者在“序言”对该书的研究思路和主要内容作了比较清晰的论述。本书第一部分概述人类信息网络的历史发展进程，通过研究几个范例来探讨各个时代人们在建立信息网络时所面临的关键困境，以及在解决这些困境的时候如何塑造出截然不同的社会，有些冲突的成因实际上是由于信息网络的类型不同。其中第四章的重点是谈论错误信息的问题，以及维持各种自我修正机制（例如独立司法、同行评议期刊）的好处与坏处。第五章讨论的是分布式信息网络和集中式信息网络，前者使信息沿着许多独立渠道自由流动，后者揭示了如何将所有信息集中在一个核心枢纽。

在第一部分的历史研究的基础上，第二部分“非生物网络”讨论的是人类正在打造的新信息网络，重点关注人工智能兴起的政治意义。作者认为人类正在创造一个全新的信息网络，却从来没有认真研究其影响：这是一种从生物到非生物信息网络的转变，从依靠碳基的人脑来处理信息、做出决策到由硅基计算机主宰新信息网络运作的转变。当硅基芯片创造出永远不用睡觉的间谍、永远不会遗忘的金融家和永远不会死去的暴君，人类社会的经济与政治会发生怎样的改变？本书的第三部分“计算机政治学”探讨了不同类型的社会如何应对非生物信息网络的威胁与承诺。因此第九章讨论的是民主国家如何处理非生物信息网络的兴起，第十章则探讨了非生物信息网络可能如何影响极权主义，比如人类独裁者将如何恐吓人工智能、审查人工智能高深莫测的处理程序，或者避免人工智能起身夺权？最后的第十一章谈论的是这套新信息网络如何左右全球民主与极权社会之间的权力平衡，说白了就是人工智能会对哪一边更有利？进而就是世界会不会分裂成人与非人彼此敌对的集团，所有人是否都会成为失控的人工智能的猎物？人类能不能团结起来捍卫共同的利益？

从整个研究框架来看，我感到赫拉利是在三个层面上分别建构起对应性的“联结”叙事：在历史与未来层面上以信息为核心叙事的回顾与前瞻，“这本书的历史部分对于我们理解当下和展望未来至关重要。人工智能的兴起可以说是历史上最大的一场信息革命。但要真正理解这场革命，就必须与过去的信息革命做比较”（序言）；在社会制度层面上，民主与极权制度下的不同信息网络类型的运作与影响，“……人们常常会把它们视为两种相对的政治与道德体系，但本章希望能改变这种讨论方式，通过梳理历史，将民主与独裁视为两种相对的信息网络类型”（106页），以及在新信息网络层面上人类与非人类的博弈——问题看来很严重：“像我们这样的碳基生命，还有没有机会理解和掌控新的信息网络？”（序言）在这三个不同层面中，从头到尾都贯穿着强烈的历史感，同时在投向未来的目光中也充溢着紧迫感和责任感。这与作者作为研究中世纪和现代军事史的历史学家跨越到信息网络研究的身份自然有关，但是更重要的因素来自他的历史观和价值观。

关于历史观的问题，赫拉利认为“历史真正研究的并不是‘过去’，而是‘变化’。历史能告诉我们什么是不变的、什么是变化的，以及事物又是如何变化的。这不仅与信息革命，而且与其他类型的历史变革都息息相关”；而且在历史的变化中会提供警告：“研究近现代的猎巫行动……也能提供一个严正的警告，让我们知道如果赋予人工智能更大的权力来掌控20世纪的社会，可能会出现怎样的问题。”（序言）当然他绝不是那种历史决定论者，他反复申明“本书并不是说研究过去就能预测未来。我后面还会反复强调，历史不是确定的，未来将由我们所有人在未来几年所做的选择而塑造。我写这本书全部的意义在于，希望我们通过做出明智的选择，防止最糟糕的结果。如果未来真的无法改变，还去讨论未来岂不是浪费时间？”（序言）最后这句是大实话，只是有点扎心。稍微有点安慰的是，“如上所述，历史不是确定的，至少在未来几年里，我们智人仍然有能力塑造我们的未来”（同上）。

价值观问题在书中也是很自然就流露出来。比如“一说到明智，大部分人会认为就是能‘做出正确的决定’，但所谓‘正确’是有价值判断的，不同的个人、文化或意识形态就会有不同的想法”（序言）。再下来，在关于纳粹主义与信息网络的关系上，赫拉利的价值批判锋芒毕露、极为犀利。“大规模网络却会使用各种虚构故事与幻想将成员联结在一起并创造秩序。举例来说，我们过去就是这样走向了纳粹主义，纳粹主义形成了格外强大的网络，并由极具迷惑性的想法加以支撑维系。正如乔治·奥威尔的那句名言：‘无知就是力量。’”“纳粹主义的政权基础，就是一些令人痛苦的幻想和毫无羞耻的谎言，但这在历史上实在称不上特殊，也不代表它们注定崩溃。纳粹主义可以说是史上人类创造出的最强大网络。……到21世纪，过去希特勒等人没做到的，很可能会由一些新的极权主义政权接手完成：创造出一个无所不能的网络，甚至能够阻止后代去尝试揭露其中的虚构与谎言。我们不该以为这些网络的基础因为都只是些虚构妄想就注定会失败崩溃。想要避免这些网络的最终成功，我们自己将不得不付出艰苦的努力。”（序言）

从“信息是什么？”这个问题入手，赫拉利通过论证必须反对天真的信息观——即认为信息就是对现实的呈现、掌握的信息越多就越能找到事物的真相并且必定使人类受益，提出了关于“信息”的定义：“所谓信息，就是能够将不同的点联结成网络，从而创造出新的现实。”（13页）这里他还有补充的说明：这个定义可以包括信息就是现实的呈现的观念，而把信息的重点放在“联结”就可以处理那些并非要呈现现实的信息。关键的问题就是“信息都会联结形成网络，而这才是信息真正的基本定义特征”（15页）。由此而把“信息”的“联结”作用放在人类历史进程的重要位置上，进而在书中也以不少篇幅揭露了民粹主义如何利用信息作为一种破坏民主的力量，还谈到了唐纳德·特朗普和巴西前总统雅伊尔·博索纳罗作为民粹主义政客如何以虚假信息煽动民粹主义情绪。他们的支持者如何呼吁公众信赖像特朗普或博索纳罗这样的领袖，将他们描绘成上帝的使者和人民的代言人。赫拉利指出“民粹主义者最奇妙的一项主张是只有他们才能真正代表人民。……如果只有民粹主义者才能代表人民，自然所有的政治权力就应该归于民粹主义政党。如果是其他政党赢得选举，可不代表那个政党赢得了人民的信任、有权组建政府，而肯定是胜选被偷走了或人民被欺骗了，投票结果并没有表达出人民真正的意志”（115-116页）。最后他指出“像特朗普这类政治人物以及匿名者Q这类运动的崛起，有着21世纪10年代末期美国所特有的政治背景”（序言）。

把深入地探讨民粹主义与面向人工智能时代的困惑与危机联系起来，这是该书很有现实针对性和深刻性的一个方面。赫拉利说，“我想强调的一点是，人类目前正在面临生态崩溃、全球战争、技术失控等生存挑战，但民粹主义却在此时侵蚀着我们对大型机构制度与国际合作的信任。民粹主义者不相信复杂的人类机构制度。他们的建议就像法厄同神话与《魔法师学徒》给我们的启示一样：‘相信会有神祇或伟大的魔法师介入，让一切恢复正常。’如果我们接受了这种建议，从短期来看，控制我们的可能就是那些对权力欲望旺盛而且是其中最糟糕的一群人，从长期来看，控制我们的可能就是新的人工智能霸主。还有一种可能，随着地球变得不再适合人类生存，我们会发现自己根本无处可去。……我们如果不想把权力交给某个魅力领袖或是高深莫测的人工智能，首先就得更加了解‘信息’究竟是什么，了解信息如何协助建立起人类网络，了解信息与真理、真相以及与权力的关系。”（同上）

以不同的信息网络类型来区分民主制度与极权制度，这是贯穿在全书各种议题中的一条主线，表明了信息政治学作为对以往政治学研究的一种富有阐释力的重要修正和补充。第五章“抉择：民主与极权制度简史”的确就是一篇以信息网络为中心的两种制度简史。例如关于民主政体从概念到实际运作的论述步步深入，把自由选举、多数独裁、权利保护机制、人权与公民权等等概念、理论和运作都解释的很清晰。同时他承认仍有一些问题无法在这里得到解决，我们需要明白的是“人权与公民权都是存在于主体间的约定，是人类的发明而非发现，是出于历史的偶然，而不是出于普遍的理性。不同的民主政体所列出的权利清单就可能有所不同。”（112页）。

赫拉利的研究表明独裁信息网络的第一个特征在于高度集中，“把所有信息都集中在自己手里，想要由自己来做所有决定，彻底控制人民生活的一切。这种由希特勒等人实行的极端独裁统治，就被称为极权主义（ totalitarianism ）。”（106页）这是从信息研究的角度切入的定义。独裁信息网络的第二个特征在于认定权力是绝对正确的，不允任何挑战，因此罗马的宣传总是把历任皇帝视为神圣的化身。“就算尼禄做出显然糟糕到极点的决定，罗马帝国也没有强大的自我修正机制能够揭露错误，推动更好的做法。”“总而言之，独裁政体是一种集中式的信息网络，而且缺乏强大的自我修正机制。相较之下，民主政体则是一个分布式的信息网络，并且拥有强大的自我修正机制。”虽然在民主信息网络里也会有一个中心枢纽，政府机构也会收集、储存大量的信息，但是民主政体还有许多其他信息渠道，连接许多独立节点。（同上）。

在这里，“自我修正机制”在赫拉利的信息与网络研究中是一个核心概念和研究议题，他善于深刻地把这个概念、议题镶嵌进政治学、宗教学和历史学的研究视角和概念范畴之中，使之具有概念的建构性和阐释力。比如，“把民主定义为拥有强大自我修正机制的分布式信息网络，就会与民主等于选举这种常见的误解形成鲜明对比。选举是整套民主工具包的核心成分，但并非民主的全部。要是没有额外的自我修正机制，选举就很容易被操弄。而且就算选举完全自由公正，光是这样也不足以保证选举就是民主，因为民主绝对不是‘多数独裁’”（109页）。

作为反面的研究案例的是宗教经典和教会权力机构对待自我修正机制的态度。赫拉利指出：“就信息技术而言，自我修正机制与宗教经典截然相反。宗教经典总说自己不可能有错误，自我修正机制则愿意接受自己的错误。……由于它（指天主教会）宣称自己绝对正确，因此它无法承认自己在制度上的错误。天主教会虽然偶尔也愿意承认有些成员犯错或有罪，但嘴上还是会说这个机构本身完美无缺。……根据天主教教义，《圣经》的绝对正确与神的引导必能胜过人类的堕落，因此就算教会的个别成员可能会犯错、可能有罪，天主教会这个机构也永远正确。”（96页）我们小时候看过一部阿尔巴尼亚电影，很喜欢模仿的一句台词是“墨索里尼，总是有理！永远有理！”。事实上，在教会内部还是存在自我修正和制度变化。正如作者说的，“虽然教会未曾正式承认，但随着时间的推移，教会也慢慢改变了自己的制度架构、核心教义和对经文的解释。如今的天主教会，反犹与厌女的色彩已经比中世纪与早期现代欧洲淡化了许多。教皇方济各对原住民文化的包容程度远高于教皇尼古拉五世。这就显示了一种机构制度的自我修正，是对外部压力和内部反省的回应。然而，对天主教会这样的机构来说，即使真的有所自我修正，它也不会承认，更不会为此庆祝。”（98页）

从历史回到现实、面向未来，赫拉利提醒我们：“下一波信息革命正蓄势待发，而这将是民主与极权新一轮竞争的基础。计算机、互联网、智能手机、社群媒体与人工智能，都对民主提出了新的挑战。现在能发声的不只有更多过去被剥夺权利的群体，还包括所有联结网络的人甚至是非人类个体。到21世纪20年代，民主政体再次迎来与过去类似的挑战：如何在维系社会秩序的前提下，让如洪水般涌来的新声音加入公共对话。……与此同时，对于仍然想把所有信息都集中起来的极权政权，新科技也带来了新希望。……随着人类迈向21世纪的第二个25年，一项重大问题就是民主政权与极权政权如何面对目前信息革命带来的威胁与契机。这些新的科学技术，究竟会让某种政权胜出，还是会让世界再次分裂？而隔开双方的不再是铁幕，而是一道硅幕。”（161页） 究竟鹿死谁手，这是人类命运攸关的历史时刻。现在必须严肃地说，在人工智能时代，“生存，还是毁灭？这是一个问题”。

最后想起理查德·J. 埃文斯在《第三帝国的到来》的序言中关于纳粹帝国的必然性与偶然性的论述：它既非历史的必然，但也不能说是偶然发生的。从历史哲学来看这是永远可以争论的问题，但是如果把历史的镜头回放到1934年，退役军官、德国总理府前高级文职官员埃尔温·普朗克（Erwin Planck） 对冯·弗里奇将军说的那句话就更有现实意义：“如果你只是袖手旁观，那么总有一天厄运也会降临到你的头上。”（理查德·J. 埃文斯《第三帝国的到来》，赖丽薇译，九州出版社，2020年， 41页）

在面向两种信息网络类型的不同前景的时刻，这句话应该让所有人都听到。