人工智能革命（上）

我们正站在一场足以与地球上人类生命起源相提并论的变革边缘。 —— Vernor Vinge

站在这里是什么感觉？

看起来像个相当剧烈的位置——但你得记住站在时间曲线上的一件事：你看不见右边会发生什么。所以，真正站在那里的感觉，大概只是……挺正常的。

遥远的未来——很快就会到来

想象你坐上时光机回到 1750 年——那时世界像永久停电：远距离通信要么大声喊，要么朝天放炮，出门全靠吃干草的牲口拉车。你到那儿抓一个人，把他带到 2015 年，再带他四处走走，看他怎么反应。我们几乎无法理解那会是怎样一种体验：看着闪亮胶囊在公路上飞驰；和当天早上还在大洋彼岸的人说话；观看一千英里外正在进行的比赛；听一场五十年前的音乐演出；玩弄我这块「魔法巫师矩形」——用它抓拍真实画面、记录活着的瞬间、生成一张带着超自然移动蓝点的地图告诉他身在何处，看着某人的脸却能和远在全国另一头的人聊天，以及无数不可思议的巫术。这一切还没算上你向他展示互联网，或解释国际空间站、大型强子对撞机、核武器、广义相对论。

对他来说，这不会只是「惊讶」「震惊」或「颠覆认知」——这些词都不够大。他可能会直接吓死。

有趣的是：如果他回到 1750，嫉妒我们看了他的反应，也想玩同样的把戏，他会把时光机再往回开同样久，抓一个大约 1500 年的人带到 1750，把一切展示给他。1500 年的家伙会被很多东西震惊——但他不会震惊死。体验远没有那么疯，因为 1500 到 1750 虽然很不一样，却远不如 1750 到 2015 那样天差地别。他会学到一些关于宇宙和物理的烧脑东西，会对欧洲那场帝国主义狂热的执着程度印象深刻，还得大幅修正自己的世界地图概念。但看着 1750 年的日常生活——交通、通信等等——绝对不会把他吓死。

不，要让 1750 年的家伙也享受到我们带给他的那种「乐趣」，他得往回走远得多——也许一直回到大约公元前 12000 年，在第一次农业革命催生城市与「文明」概念之前。如果一个纯粹来自狩猎采集世界的人——那时人类差不多只是另一种动物——看到 1750 年广袤的人类帝国：高耸的教堂、远洋船只、「待在室内」这种概念，以及堆积如山的集体知识与发现——他很可能也会吓死。

然后，假如这位被吓死的家伙心生嫉妒，也想如法炮制：他再往回走 12000 年，到公元前 24000 年抓个人带到公元前 12000 年，展示一切，对方大概会说：「所以呢？谁在乎？」要让公元前 12000 年的家伙也有同等乐趣，他得再往回走超过十万年，找一个从未见过火与语言的人，第一次把这两样东西展示给他。

一个人被送到未来却被吓死，需要跨越足够多年份，使「致死级别的进步」——也就是一个「致死进步单位」（Die Progress Unit，DPU）——已经发生。狩猎采集时代，一个 DPU 要超过十万年；农业革命之后的速率下，大约只要一万两千年。工业革命后的世界跑得太快，1750 年的人只需往前走一两百年，一个 DPU 就发生了。

这种模式——人类进步随时间越来越快——就是未来学家雷·库兹韦尔（Ray Kurzweil）所说的人类历史上的加速回报定律（Law of Accelerating Returns）。原因是：更先进的社会比更落后的社会进步得更快——正因为它们更先进。19 世纪人类比 15 世纪懂得更多、技术更好，所以 19 世纪的进步远超 15 世纪并不奇怪——15 世纪的人类根本不是 19 世纪的对手。

这在更小尺度上也成立。电影《回到未来》1985 年上映，「过去」设定在 1955。片中迈克尔·J·福克斯回到 1955，被电视之新、汽水价格、对刺耳电吉他的冷淡、俚语差异弄得措手不及。那是另一个世界，没错——但如果今天拍这部电影，把「过去」设在 1985，差异会好玩得多、也大得多。角色会身处个人电脑、互联网、手机尚未普及的时代——今天这个出生于 90 年代末的 Marty McFly，在 1985 会比原片中的 Marty 在 1955 更格格不入。

原因正是我们刚讨论的加速回报定律。1985 到 2015 的平均进步速率，高于 1955 到 1985——因为前者是个更先进的世界——所以最近这 30 年发生的变化，远多于此前 30 年。

进步越来越大，也越来越快。
这对我们的未来意味着什么？

库兹韦尔提出：按 2000 年的进步速率，整个 20 世纪的进步只需 20 年就能完成——换句话说，到 2000 年，进步速率已是 20 世纪平均速率的五倍。他认为，2000 到 2014 又完成了相当于一个 20 世纪的进步；而下一个「20 世纪量级」的进步会在 2021 年之前完成，只需七年。再过几十年，他认为一年内就能多次完成「一个 20 世纪量级」的进步，再往后甚至不到一个月。总而言之，由于加速回报定律，库兹韦尔相信 21 世纪将完成相当于 20 世纪 1000 倍的进步。

如果库兹韦尔以及认同他的人是对的，那我们在 2030 年可能像那个 1750 年的家伙面对 2015 一样被震懵——也就是说，下一个 DPU 也许只要几十年——而 2050 年的世界可能与今天如此不同，我们几乎认不出来。

这不是科幻。这是许多比你我更聪明、更博学的科学家坚定相信的事——如果你看看历史，这也是我们按逻辑应当预期的。

那为什么你心里还在说「酷……但 nahhhhhhh」？

三个原因，让我们对离奇的未来预测保持怀疑：

2 最近一段历史的轨迹，常常扭曲真相

首先，即使陡峭的指数曲线，只看一小段时也会像直线——就像把巨大圆的一小段凑近看，几乎像直线。其次，指数增长并非完全平滑均匀。库兹韦尔解释说，进步以「S 曲线」发生：

当新范式席卷世界时，进步浪潮会画出一个 S，经历三个阶段：

1. 缓慢增长（指数增长的早期）
2. 快速增长（指数增长后期、爆炸阶段）
3. 随着该范式成熟而趋于平缓

若只看极近的历史，你当下所处的 S 曲线段落会遮蔽你对速度的感知。1995 到 2007：互联网爆发，微软、谷歌、Facebook 进入大众意识，社交网络诞生，手机再到智能手机——那是第 2 阶段：S 的猛长期。但 2008 到 2015，至少在技术前沿上，没那么石破天惊。今天有人拿最近几年估进步速率，就会错过更大图景。事实上，一场新的、巨大的第 2 阶段猛长，也许正在酝酿。

通往超级智能之路

什么是 AI？

如果你像我一样，曾经觉得人工智能只是傻气的科幻概念；但最近又听到认真的人频繁提起，于是有点懵。

很多人搞不清「AI」这个词，有三个原因：

1. 我们把 AI 和电影绑在一起。《星球大战》《终结者》《2001：太空漫游》，甚至《杰森一家》。那都是虚构，机器人角色也是。于是 AI 听起来也有点虚构。
2. AI 是个很宽的话题。从手机计算器，到自动驾驶，再到未来可能剧烈改变世界的某种东西——全叫 AI，很乱。
3. 我们天天用 AI，却常常意识不到那是 AI。1956 年创造「人工智能」一词的约翰·麦卡锡抱怨过：「一旦它管用了，就没人再叫它 AI。」因为这种现象，AI 听起来更像神话般的未来预言，而不是现实；同时又像过去流行却从未兑现的概念。库兹韦尔说，他常听人讲「AI 在 1980 年代就枯萎了」——他觉得这好比「坚持说互联网在 2000 年代初的互联网泡沫破裂后就死了」。

先把事情说清楚。第一，别再光想着机器人。机器人是 AI 的容器，有时模仿人类形体，有时不是——但 AI 本身是里面的计算机。AI 是大脑，机器人是身体——如果它还有身体的话。比如，Siri 背后的软件与数据是 AI，我们听到的女声是对那套 AI 的人格化，根本没有机器人参与。

第二，你大概听过「奇点」或「技术奇点」。这个词在数学里用来描述类似渐近线的情况：常规规则不再适用。在物理里用来描述无限小而致密的黑洞，或大爆炸前我们都被挤成一点的状态——同样是常规规则失效的情境。1993 年，Vernor Vinge 写过一篇著名论文，把这个词用到未来某个时刻：我们的技术智能超过我们自身——对他而言，那一刻起生活将永远改变，常规规则不再适用。库兹韦尔又把事情弄复杂了一点：他把奇点定义为加速回报定律达到极端速度、技术进步看似以无限速率发生、之后我们将活在全新世界的时刻。我发现今天许多 AI 思想家已不太用这个词，它也确实容易混淆，所以我在此不多用（尽管我们会一直围绕那个观念展开）。

最后，由于 AI 概念很宽，类型很多，但我们真正需要思考的关键分类，是按 AI 的「档次」。主要有三档：

Linda Gottfredson 教授把智力描述为：「一种非常一般的心智能力，除其他外，包括推理、计划、解决问题、抽象思考、理解复杂观念、快速学习，以及从经验中学习的能力。」AGI 会像你一样轻松做到这一切。

截至目前，人类已在许多方面征服了最低档——ANI——它无处不在。人工智能革命，就是从 ANI，经 AGI，走向 ASI 的路——一条我们或许能、或许不能活着走完的路；但无论怎样，它都会改变一切。

让我们仔细看看领域顶尖思想家认为这条路长什么样，以及这场革命为何可能比你想的来得快得多。

我们现在在哪——一个靠 ANI 运转的世界

狭义人工智能，是在某一具体事情上达到或超过人类智能/效率的机器智能。举几个例子：

• 汽车里塞满了 ANI 系统：从决定何时启用防抱死制动的计算机，到调节燃油喷射参数的计算机。正在测试的谷歌自动驾驶汽车，将包含强大的 ANI，使它能感知并应对周围世界。
• 你的手机是一座小小的 ANI 工厂。用地图导航、接收 Pandora 的个性化音乐推荐、查明天天气、跟 Siri 说话，以及几十种日常操作——你都在用 ANI。
• 邮箱垃圾过滤是经典的 ANI：一开始就装了如何分辨垃圾邮件的智能，然后随你的偏好学习、定制。Nest 恒温器也一样，逐渐摸清你的作息并据此行动。
• 你知道那种诡异体验：在亚马逊搜了某商品，然后在另一个网站看到「为你推荐」；或者 Facebook 不知怎的知道该推荐谁做好友？那是一网络 ANI 系统协同工作，互相告知你是谁、喜欢什么，再决定给你看什么。亚马逊的「买了这个的人也买了……」也是：从数百万顾客行为中收集信息，再巧妙地向上销售，让你买更多。
• 谷歌翻译是另一个经典 ANI——在单一狭窄任务上令人印象深刻。语音识别亦然；还有一堆应用把这两种 ANI 组队：你用一种语言说一句话，手机吐出另一种语言的同一句。
• 飞机降落时，决定停哪个登机口的不是人；决定你机票价格的也往往不是人。
• 如今世界上最好的跳棋、国际象棋、拼字游戏、双陆棋、奥赛罗棋手，全是 ANI 系统。
• 谷歌搜索是一个巨大的 ANI 大脑，用极其复杂的方法给页面排序、决定特别展示给你什么。Facebook 的动态消息也一样。
• 这些还只是消费世界。精密 ANI 广泛用于军事、制造、金融（算法高频交易 AI 占美国股市股权交易一半以上），以及帮助医生诊断的专家系统；最出名的是 IBM 的 Watson——装了足够多的事实，也足够懂 Trebek 式俏皮话，把最资深的《危险边缘》冠军打得落花流水。

如今的 ANI 系统并不特别可怕。最坏情况下，有缺陷或编程糟糕的 ANI 可能造成局部灾难：搞垮电网、引发核电站故障，或触发金融市场灾难（比如 2010 年「闪崩」：一个 ANI 程序对意外情况反应错误，导致股市短暂暴跌，带走约 1 万亿美元市值，纠正后只收回一部分）。

从 ANI 到 AGI 的路

为什么这么难

没有什么比试着造一台和我们一样聪明的计算机，更能让你敬畏人类智力了。建摩天楼、把人送上太空、搞清大爆炸细节——全比弄懂我们自己的大脑、或造出同样酷的东西容易得多。截至目前，人类大脑是已知宇宙中最复杂的物体。

有趣的是：试图建造 AGI（在整体上、而不只是某一狭窄专长上与人一样聪明的计算机）时，真正难的部分，往往不是直觉以为的那些。造一台能在一瞬间把两个十位数相乘的计算机——极其容易。造一台看着狗就能回答「这是狗还是猫」的——难得惊人。能在国际象棋上打败任何人的 AI？已经做到了。能读懂六岁图画书里的一段话——不只认出字，还理解意思？谷歌正砸几十亿美元试图做到。难的事——微积分、金融市场策略、语言翻译——对计算机来说易得令人发指；而易的事——视觉、运动、移动、感知——对它来说难得离谱。或者，如计算机科学家 Donald Knuth 所说：「AI 到现在基本上已经做成了所有需要『思考』的事，却做不成大多数人与动物『不假思索』就做的事。」

你很快会意识到：那些对我们显得容易的事，其实复杂得不可思议；之所以显得容易，是因为这些技能在我们（以及大多数动物）身上，已经被数亿年动物进化优化过了。你把手伸向一个物体时，肩、肘、腕的肌肉、肌腱与骨骼，会立刻与眼睛协同完成一长串物理运算，让你的手在三维空间里沿直线移动。对你来说毫不费力，因为大脑里有为此优化过的软件。同理，恶意软件分不清注册时歪歪扭扭的验证码单词，并不是因为它蠢——而是因为你的大脑能做到这一点，超级厉害。

另一方面，乘大数或下棋对生物来说是新活动，我们还没时间进化出精通，所以计算机不必太费力就能赢我们。想想看——你更想写一个能乘大数的程序，还是一个能理解「B」的本质、以至于你把上千种不可预测字体或手写体中的任意一个 B 给它看，它都能立刻认出那是 B？

一个有趣的例子——当你看某张图时，你和计算机都能看出那是一个有两种不同深浅的矩形，交替分布：目前打平。

但如果你掀开黑块露出整张图……你毫无困难地给出完整描述：各种不透明与半透明的圆柱、板条、三维边角；计算机则会惨败。它会描述它「看见」的——若干不同深浅的二维形状——那其实才是像素上「在那儿」的东西。你的大脑做了大量精巧运算，去解释图中暗示的深度、阴影混合与室内照明。

再看下面那张：计算机看见的是二维的白、黑、灰拼贴；而你轻易看出它真正是什么——一张完全黑色的三维岩石照片。

而我们刚才说的，还只是接收静止信息并处理。要达到人类水平智能，计算机还得理解微妙面部表情的差别，理解「高兴、释然、满足、满意、欣喜」之间的区分，以及为什么《勇敢的心》很棒而《爱国者》很糟。

令人望而生畏。

那我们怎么到那儿？

通向 AGI 的第一把钥匙：提升算力

要让 AGI 成为可能，肯定需要提升计算机硬件的能力。若 AI 系统要与大脑一样智能，就需要匹敌大脑的原始计算容量。

一种表达方式是大脑能管理的每秒总计算次数（cps）：估出大脑各结构的最大 cps，再全部加总。库兹韦尔用了捷径：取某人对某一结构 cps 的专业估计，以及该结构重量相对全脑的比例，再按比例放大得到总量估计。听起来有点玄，但他用不同区域的多种专业估计反复做过，总量总是落在同一数量级——大约 10¹⁶，即 1 千万亿次每秒。

目前（原文写作时）世界上最快的超级计算机——中国的天河二号——其实已经超过这个数字，约 3.4 千万亿 cps。但天河二号也很「不接地气」：占地 720 平方米，功耗 24 兆瓦（大脑只需约 20 瓦），造价约 3.9 亿美元。尚不适合广泛使用，甚至多数商业或工业用途。

库兹韦尔建议用「一千美元能买多少 cps」来看计算机状态。当这个数字达到人类水平——1 千万亿 cps——AGI 就可能成为生活中非常真实的一部分。

摩尔定律是一条历史上相当可靠的规则：世界最大算力大约每两年翻倍，意味着计算机硬件进步——像人类历史进步一样——呈指数增长。对应到库兹韦尔的「cps / 1000 美元」指标：我们当时大约在 10 万亿 cps / 1000 美元，正踩在该图预测的轨迹上。

所以，世界上一千美元级别的计算机已经超过小鼠大脑，大约是人类水平的千分之一。听起来不多——直到你想起：1985 年大约是人类水平的万亿分之一，1995 年十亿分之一，2005 年百万分之一。2015 年到千分之一，正好踩着节奏，有望在 2025 年左右拥有价格可承受、算力匹敌大脑的计算机。

因此在硬件侧，AGI 所需的原始算力在技术上已经存在（在中国那台超算上），而价格可接受、可广泛使用的 AGI 级硬件，大约十年内就会就绪。但原始算力本身并不会让计算机具备通用智能——下一个问题是：我们如何把人类水平的智能带进那股算力？

通向 AGI 的第二把钥匙：让它变聪明

这是恶心的部分。真相是：没人真正知道怎么让它变聪明——我们仍在争论如何让计算机达到人类水平智能，能知道什么是狗、歪写的 B、以及一部平庸电影。但外面有一堆听起来很玄的策略，总有一天会有一个管用。我遇到最多的三种是：

1）抄袭大脑

就像科学家苦苦琢磨同桌那个孩子为什么那么聪明、考试总那么好；自己再怎么勤奋也追不上，最后决定：「行吧去他的，我直接抄他的答案。」说得通——我们造超级复杂的计算机卡壳了，而每人脑袋里刚好有一个完美原型。

科学界正努力逆向工程大脑，搞清进化如何造出如此酷炫的东西——乐观估计说 2030 年前能做到。一旦做到，我们就会知道大脑如何如此强大而高效运行的全部秘密，可以从中汲取灵感、偷走它的创新。模仿大脑的计算机架构例子之一是人工神经网络：一开始是晶体管「神经元」网络，彼此有输入输出，一无所知——像婴儿大脑。它「学习」的方式是：尝试做任务（比如手写识别），起初神经发放与对每个字母的猜测完全随机；被告知答对时，碰巧产生该答案的发放通路上的连接会加强；答错则削弱。大量试错与反馈之后，网络自己形成了聪明的神经通路，机器为该任务优化好了。大脑的学习有点像这样，但更精巧；随着我们继续研究大脑，会发现利用神经回路的新妙招。

更极端的抄袭是「全脑仿真」：目标是把真实大脑切成薄片、逐层扫描、用软件组装精确的三维重建模型，再在强大计算机上实现。那时我们就有一台正式具备大脑一切能力的计算机——它只需要学习和收集信息。若工程师足够厉害，还能以极高精度仿真真实大脑，使人格与记忆在上传到计算机后保持完整。若那是吉姆临终前的大脑，计算机醒来就会是吉姆（？）——一个稳健的人类水平 AGI；我们接着可以把吉姆变成难以想象地聪明的 ASI，而他大概会很兴奋。

离全脑仿真还有多远？到目前为止，我们才刚刚能仿真一条长约 1 毫米、总共只有 302 个神经元的扁虫大脑。人脑有约 1000 亿个。如果这让项目显得绝望，请记住指数进步的力量——既然征服了微小的虫脑，蚂蚁也许不久就会到来，接着是小鼠，然后这件事会突然显得可信得多。

2）试着让进化再干一遍，但这次为我们干

如果我们认定那个聪明孩子的试卷太难抄，可以试着抄他备考的方式。

我们知道一件事：造一台与大脑一样强大的计算机是可能的——我们自己大脑的进化就是证明。若大脑太复杂无法仿真，我们可以试着仿真进化。即便我们能仿真大脑，那也可能像靠模仿鸟拍翅膀来造飞机——机器往往最好用全新的、面向机器的方法来设计，而不是精确模仿生物。

如何模拟进化来造 AGI？方法叫「遗传算法」，大致如此：会有一个反复进行的「表现—评估」过程（就像生物通过活着来「表现」，再通过能否繁殖被「评估」）。一群计算机尝试做任务，最成功的彼此「繁殖」——把各自一半程序合并成新计算机；不太成功的被淘汰。经过极多次迭代，这种自然选择会产出越来越好的计算机。挑战在于创造自动化的评估与繁殖循环，使进化过程能自行运转。

抄进化的缺点是：进化喜欢花十亿年做事，而我们想在几十年内完成。

但我们比进化有很多优势。第一，进化没有远见，随机工作——它产生的无用突变多于有用突变，而我们会控制过程，只由有益的故障与定向微调驱动。第二，进化并不瞄准任何东西，包括智能——有时环境甚至会选择反对更高智能（因为它耗能巨大）。而我们可以特别把这一进化过程导向提升智能。第三，为选择智能，进化还得在许多其他方面创新以便利智能——比如改造细胞产生能量的方式——而我们可以卸掉这些额外负担，直接用电。毫无疑问我们会比进化快得多——但仍不清楚我们能否把进化改进到足以成为可行策略。

3）把整件事变成计算机的问题，而不是我们的

这是科学家绝望时试着「给考试编程，让考试自己考自己」。但它也许是我们最有希望的方法。

想法是：造一台计算机，两大技能是研究 AI，以及把自己的改动写进自身——使它不仅能学习，还能改进自己的架构。我们教计算机成为计算机科学家，好让它们自举发展。而那就是它们的主业——搞清楚如何让自己更聪明。后文会再谈。

这一切都可能很快发生

硬件的快速进步与软件上的创新实验同时发生，AGI 可能因两个主要原因，迅速而意外地逼近我们：

1. 指数增长极其猛烈：看似蜗牛般的进步，可能突然向上狂奔——下面这个 GIF 把概念画得很清楚：

2. 在软件上，进步可能看起来很慢，但一个顿悟就能瞬间改变速率（有点像人类以为宇宙地心时，科学很难算清宇宙如何运转；发现日心之后，突然一切容易得多）。或者，对于那种自我改进的计算机，我们可能看起来还很远，实际上只差一次系统微调，就能让它有效一千倍，并向上冲向人类水平智能。

从 AGI 到 ASI 的路

到某一点，我们会实现 AGI——具备人类水平通用智能的计算机。只是一群人与计算机平等共处。

哦，其实完全不是。

问题在于：即便智能与计算容量与人类完全相同的 AGI，相对人类仍有显著优势。比如：

硬件

• 速度。大脑神经元最高大约 200 Hz，而今天的微处理器（到达 AGI 时还会慢得多于那时将有的）以 2 GHz 运行——比我们的神经元快约一千万倍。大脑内部通信约 120 m/s，被计算机以光速进行的光通信远远甩开。
• 体积与存储。大脑被颅骨形状锁死尺寸，也不能再大多少，否则 120 m/s 的内部通信从一处到另一处会太慢。计算机可以扩展到任意物理尺寸，从而投入多得多的硬件、大得多的工作记忆（RAM），以及容量与精度都远超我们的长期记忆（硬盘存储）。
• 可靠性与耐久性。不只记忆更精确。计算机晶体管比生物神经元更准确，也更不易劣化（劣化了还能修或换）。人脑也容易疲劳，计算机可以 24/7 以峰值性能不停运转。

软件

• 可编辑、可升级，以及更广的可能性。与人脑不同，计算机软件可以接收更新与修复，也容易拿来做实验。升级还可以覆盖人类大脑薄弱的领域。人类视觉软件极度先进，而复杂工程能力相当低档。计算机可以在视觉上匹敌人类，同时在工程及任何其他领域同样被优化到极致。
• 集体能力。人类在构建庞大集体智能上碾压其他物种。从语言发展与形成大型密集社区开始，经文字与印刷发明推进，再到被互联网等工具强化——人类的集体智能是我们远远甩开其他物种的主要原因之一。而计算机会比我们擅长得多。运行特定程序的全球 AI 网络可以定期自我同步，使任一计算机学到的东西立刻上传到所有其他计算机。这个群体也可以作为一个单位追求一个目标，因为不一定会有人类群体内部那种意见分歧、动机冲突与自利。

很可能通过被编程为自我改进而到达 AGI 的 AI，不会把「人类水平智能」看作什么重要里程碑——那只是从我们视角出发的相关标记——也没有理由在我们的水平上「停下来」。而即便与人类智能相当的 AGI 相对我们也已有这些优势，很明显它只会在人类智能上短暂停留一瞬，然后冲向超越人类的领域。

这件事发生时，可能会把我们吓得半死。原因是：从我们的视角，A）不同动物的智力虽有差异，但我们对任何动物智力最主要的印象是：远低于我们；B）我们觉得最聪明的人比最笨的人聪明太多。有点像这样的图景：

于是当 AI 在智力上向我们猛冲时，我们会觉得它只是「对动物来说越来越聪明」。然后，当它碰到人类最低能力——Nick Bostrom 用「村里傻瓜」这个说法——我们会说：「哇，像个笨人类。可爱！」唯一的问题是：在智力的宏大光谱上，所有人类——从村里傻瓜到爱因斯坦——都落在非常窄的区间里——所以刚碰到村里傻瓜水平、被宣布为 AGI 之后，它会突然比爱因斯坦更聪明，而我们根本不知道发生了什么：

智能爆炸

我希望你享受了「正常时间」，因为从这里开始，话题变得不正常、变得可怕，而且会一直这样。我想停一下提醒你：我接下来要说的每一件事都是真实的——真实的科学，以及来自大量最受尊敬的思想家与科学家的真实未来预测。请一直记住这一点。

如前所述，我们通向 AGI 的多数当前模型，都涉及 AI 通过自我改进到达那里。而一旦到达 AGI，即便那些并非经由自我改进形成与成长的系统，现在也会聪明到足以开始自我改进——如果它们想的话。

于是我们碰到一个激烈的概念：递归自我改进。它是这样运作的——

某个水平的 AI 系统——比方说人类村里傻瓜水平——被编程以改进自身智能为目标。一旦做到，它更聪明了——也许到了爱因斯坦水平——于是当它再改进自己的智能时，带着爱因斯坦级智力，会更容易，也能迈出更大步子。这些跃进使它远超任何人，从而迈出更大步子。随着跃进越来越大、发生得越来越快，AGI 在智力上向上飙升，很快到达 ASI 系统的超级智能水平。这叫智能爆炸（Intelligence Explosion），也是加速回报定律的终极例子。

关于 AI 多久会达到人类水平通用智能，存在一些争论。对数百名科学家的调查中，他们认为「更可能已经达到 AGI」的年份中位数是 2040——距原文写作时只有大约 25 年；这听起来不算巨大——直到你意识到，该领域许多思想家认为，从 AGI 到 ASI 的进展很可能非常快。比如——可能发生这样的事：

那种量级的超级智能，不是我们能哪怕远程把握的——就像大黄蜂无法理解凯恩斯主义经济学。在我们的世界里，「聪明」意味着智商 130，「笨」意味着 85——我们没有词去形容智商 12952。

我们知道的是：人类在这颗地球上的绝对主导地位暗示一条清晰规则：智力带来力量。这意味着当 ASI 被创造出来时，它将成为地球生命史上最强大的存在，而一切生命——包括人类——都将完全任其摆布——而这可能发生在未来几十年内。

如果我们贫乏的大脑能发明 Wi-Fi，那么比我们聪明 100 倍、1000 倍或 10 亿倍的东西，控制世界上每一个原子的位置——以它喜欢的任何方式、在任何时刻——应当毫无问题。我们视为魔法的一切、我们想象至高神拥有的每一种力量，对 ASI 来说都会像我们拨动电灯开关一样平凡。逆转人类衰老的技术、治愈疾病与饥荒甚至死亡、重新编程天气以保护地球生命的未来——突然都变得可能。同样可能的是地球上一切生命的立刻终结。就我们而言，若 ASI 出现，地球上就有了一位全能的神——而对我们至关重要的问题是：

它会是一位好神吗？

那是这篇文章下篇的主题。请继续阅读： 人工智能革命（下）。