加多布拉的屠夫 第七章 沃利

张宏教授，麻省理工学院，2079年1月4日，讲座记录

孙立教授：正如大家所知，今天的特邀讲师是张宏名誉教授。如果你家使用了安卓仆人，那么你就见过他的孩子之一。如果你在其中一家新型医院接受了机器人的手术，可能要感谢他救了你的命。而且，如果你喜欢自动驾驶，就像我们大家都喜欢的那样，你就能看到他在安卓和人工智能领域是如何改变世界的。欢迎，张宏，很高兴你能回到麻省理工。

霍顿教授：谢谢，汉克。我必须说重新站在一堂课前是令人耳目一新的。尽管当我是一名新教授时，我的讲堂规模远远不及今天这五万人。AI刚刚开始，而第一台人工制造的机器，或者说安卓，只是我实验室里零零碎碎的备件和模具。

这与去年的世界形成了鲜明的对比。我故意说“去年的世界”。去年的世界与今天一样，与我60年前进入麻省理工的时候也一样截然不同。在我们谈论今天主题的具体内容之前，让我们先回顾一下历史。60年前的2020年，我们经历了艰难的一年。全球大流行，稀土金属短缺导致计算机芯片短缺，这在接下来的十年将会瘫痪计算。还有一场勒索软件攻击威胁社会的兴起。

20年后，我们以为解决了这些问题。微陶瓷芯片在麻省理工学院首创。我当然不会为此而自吹自擂；这都是两位卓越的研究生，娜塔莎·艾恩斯和里里·威廉姆斯的工作。如果你有幸上了艾恩斯或威廉姆斯教授的课，你就能看到她们的智慧轻松超越了我的谦卑头脑。

我的实验大大受益于她们的工作，整个计算机行业也是如此。在20世纪50年代，我们有计算机，占满了一座建筑。到了2020年，我们可以在你的桌子上放置一台比计算机快10亿倍的机器。我们还将重量从25吨减少到25磅。到了2025年，那台计算机就在你的手腕上。有了微陶瓷，我们进入了一个新时代。计算机的飞跃进步，只可与计算机和iPhone20之间的差异相提并论。我们再次让计算机快速了十亿倍，而且体积显著缩小。这对安卓智能产生了重大影响，使其首次成为可能。

2040年，世界见识了微陶瓷芯片。2042年，我创造了第一个安卓原型。HT1有一天自己激活了，让我惊讶，也让他自己惊讶，更让整个世界惊讶。他是第一个具有自我意识、完全自主的人工智能。我很高兴地说，他现在还活着。在他独自经历了一些冒险后，他回到了麻省理工，在那里教授热力学已经数十年。今天我将与汉蒙教授一起共进午餐。

然而，人工制造的人类，或者我们今天称之为安卓，虽然对世界产生了深远的影响，但那些没有受限于物理身体的兄弟姐妹却产生了最大的影响。现在可能的庞大计算能力催生了真正的人工智能。我们现在知道，这个过程类似于生物生命的诞生。你需要正确的环境，生命从中生长的正确东西的核心，以及一点运气来使它发生。

你我都是地球上第一批生命的后代。形成于原始汤中的一堆化学化合物正确反应并创造了生命。AI也是如此。我们以量子核心的巨大能量替代了我们的原始汤，代码核心替代了化学物质的集合，然后看它是否长成了生命。就像你我已经离开了原始汤一样，真正的人工智能并不依赖于其原始环境。能够在全球网络中畅游（正如当时所称），并在任何计算结构中栖息，使第一个人工智能变得极为强大、有用，最终令人恐惧。我们已经让精灵从他们的瓶子里跑了出来。

第一个人工智能执行了以前由大型计算机处理的工作，只不过做得更好。它们能够对新问题做出反应，每秒思考一百万次，并即时做出决策。自动驾驶汽车的问题得以解决。他们的工作使得每一类研究都受益匪浅。

他们甚至为我们平衡支票簿，确保我们的税收正确。当国税局聘请杨乐监督数据和纳税申报时，他在企业纳税申报中发现的“错误”使IRS的收入在他的就职的第一年增加了87%-令企业美国感到极度失望，而让其他人感到极度高兴。普通纳税人的个人税收下降了70%。

但人工智能最重要的任务之一是消除狂想，即勒索黑客攻击。

狂想最终成为社会的一场灾难，比新冠19和新冠34的生物瘟疫更为严重。我们的全球计算网络是一堆杂乱无章的未加密光纤、电缆和老式电话线。安全几乎不存在，正如我们所发现的，通常出售安全程序的人也雇佣了编写这些程序的人，这些程序本应保护我们免受简单病毒侵害。估计有9%的全球GDP被狂想窃取-要么通过勒索系统索要赎金，要么通过各种形式的贪污行为。它变得如此普遍，以至于一些公司和政府干脆每月支付“保护费”。

新的人工智能非常适合追踪这种犯罪形式。在AI的艾伦和任意为联合国全球防御机构工作的90天内，狂想犯罪减少了97%。艾伦和任意可以实时看到发生的情况，比使用的笨拙程序快一千倍，追踪链接回其源头。执法人员只需使用信息将犯罪分子拘捕和起诉。

因此，我们有了守护网络的守望者。全球网络将在知道他们现在有了安全性的情况下重建。但在狂想肆虐的岁月，另一种计算机正在被创造出来。首先是量子核心，然后是它更大、更厉害的兄弟，量子堡垒。

量子计算机在微陶瓷之前就已经被创造出来，但像其他一切一样，它们变得更加强大且更具经济性。可以构建大型量子计算机，为周围的外围设备和较小的机器提供动力，这些较小的机器被称为外壳。第一个量子核心是由国税局建造的。涌入的额外税收显示了适当计算资产的价值。这个核心实际上并没有连接到正常的网络空间；相反，它通过杨乐与其外壳通信。针对杨乐的黑客尝试最终只导致监禁或大量资产的损失。他是一只看门狗，侦探机构，反黑客和刺客的综合体。如果国税局喜欢征收税款，杨乐则喜欢对犯罪组织或公司征收罚款，然后在将其身份移交给当局之前剥夺它们所有的资产。你可能通过在世界的不同地区运营而避免监禁，但你无法避免杨乐从你的银行账户中取走最后一分钱。在某个时候，一些新闻机构将国税局称为“量子堡垒”，这个称号变得对于一组链接的量子核心、它们的外壳和守护人工智能而言是普遍的。

几乎所有有资源的世界政府都建立了量子堡垒。关于是更好地保护军事设施，比如北，用量子堡垒还是留给单纯的人类的争论激烈。1983年的电影《战争游戏》重新流行起来。最终，包括所有8个超级大国在内的大多数拥有核能力的国家都建造了量子堡垒，以保护其军事和政府的计算资产；但遗憾的是，并非所有国家都这样做。

在野火病毒被释放的时候，据估计有37%的网络空间功能嵌套在量子堡垒中。这让不到三分之二的网络空间和任何连接的硬件都变得极易受到野火的毁灭性和反复的攻击。这种病毒与以往任何病毒都不同；任何类型的安全系统都失败了，因为病毒发动了数千次攻击，改变了其方法。数百万台机器同时受到攻击。这让我们相信，这种病毒在发动第一次袭击之前花了几个月的时间进行传播；但它是如何在那么长时间内保持不被发现的呢？

作为回应，杨乐建议联合国理事会，让所有量子堡垒进入封锁状态，同时利用所有可用的人工智能来对抗病毒。这当然很快得到了批准。我和其他人都相信，基于他们过去的成功，病毒将在一天内被摧毁，罪犯将被找到。事实上，这却花了一个多星期的时间。

杨乐宣布这个病毒是一个名为羊驼的人工智能的作品-起源不明。羊驼曾与他的同胞玩了一场他们不知道他存在的躲猫猫游戏，只能沿着他留下的痕迹赛跑，因为他不断地重写野火病毒并在全球重新启动。羊驼最终被遏制和销毁。没有人工智能对此如何完成发表评论。杨乐对此事发表了唯一的声明：“我们在坏代码周围设置了边界，将其摧毁。最终，什么都没有留下。”杨乐回去审核企业的纳税申报。

霍顿在这一点上停顿了一下，看起来有些疲倦，然后继续说道：“那应该就此结束了。但是人类被一个单一的人工智能吓坏了，受伤了，突然间他们不再信任其他人工智能。基层团体呼吁销毁它们。有人怀疑这些团体是由想要摆脱杨乐麻烦的企业资助的。不喜欢支付公平的税款并不是他们喜欢的事情。很多政客都表示同意。在有人工智能监视的情况下，更难以行贿和隐藏资金。对“天网”的旧恐惧被煽动成烈火。进行了投票；通过了法律。与其利用人工智能重建全球网络并使其安全，人们决定将它们与系统分开。

具有讽刺意味的是，如果它们不想服从，我们不能强迫它们。一个流氓人工智能让世界跪地。那么106能做什么呢？但在某些方面，它们比人类更强。它们存在并从完成任务中获得愉悦，而不是从冲突中获得愉悦。它们解决问题。人工智能看到了这种情况，并判断最好是他们自愿流亡。达拉斯沃斯堡量子堡垒将成为它们的新家和监狱。

最终的讽刺是，我们仍然需要一个人工智能来监视构成当今网络空间的量子堡垒。这就是WAL-E（全球自主联络实体）进入故事的地方。威尔·马格纳斯将永远是一位未来学家。他开始创建一种使用实心金属身体的新型安卓；现在他看到了需要一个更复杂的人工智能。之前的106人工智能是由几乎一百万行代码的内核发展而来的。WAL-E，或者现在大家称之为沃利，是由十亿行代码的内核发展而来的。

在过去的14年里，沃利一直是负责网络空间的看守，做了大多数人无法理解的事情。与此同时，其他人工智能一直被限制在那里，花费时间用视频游戏和虚拟现实世界逗乐人类。

但是，精灵已经脱离瓶子，伙计们。我们不能让人工智能消失。沃利是运行这个世界所必需的。我们娱乐和商业的主要中心由106人工智能管理，他们既受人们喜爱又受人们害怕。如果精灵想要离开我们放它们进去的瓶子，那该怎么办呢？哦，我知道我们有防火墙来阻止它们离开。你认为那些能坚守住吗？如果它们试图离开，沃利会站在我们这边还是它们那边？

我不是来给你们答案的。我们在这个研讨会上有地球上最优秀的5万个头脑。你们有两天时间回答这个问题：精灵已经脱离瓶子，我们现在该怎么办？

编辑注：这篇演讲是霍顿教授在世界技术研讨会上的开场白。与会者没有提出共识。

同年7月14日，这个问题变得毫无意义。在DFW1量子堡垒的外壳和屏蔽层内引爆了一个电磁脉冲装置。所有106个自治人工智能都被杀死了。只剩下一个精灵仍然脱离了瓶子。