人工智能革命——人类的永生或灭绝（8）

[美]蒂姆•厄本 作 黄菁 编译

为什么未来有可能是我们最伟大的梦想

在我研究人工智能的时候，发现站在这里的人出乎意料地多（见下图）：

站在“自信角”的人们兴奋不已，他们把目标锁定在平衡木欢乐的一边，确信那是我们所有人前进的方向。对他们而言，未来完全符合预期，而且来得刚刚好。

将这些人与其他思想家区分开的东西（我们将在下文讨论），并非他们求取永生的欲望——而是他们怀抱着的，对人类必将在“永生”一边着陆的信心。

他们的信心从哪儿来，仍存在争议。批评家们称这种信心来源于一种盲目的兴奋，无非就是对潜在负面结果的忽视与否认。但“信心角”人士们则认为，在平衡木上编造世界末日景象太幼稚了，科技已经在、并且会一直帮助我们很多，而非伤害我们。

双方观点我们都会论及，以便你在阅读中形成自己的想法。但是在这一部分，请先把你的怀疑论收好，让我们好好看看平衡木的欢乐一边都有些什么——你读到的事真的可能发生，尝试接受一下吧。如果你曾向一位原始人展示过室内生活的舒适、科技与应有尽有，对他而言，仿佛来到了一个虚构的魔法世界——未来，对我们而言，我们得谦虚地承认，也有可能是同样不可思议的转变。

尼克•博斯特罗姆描述了超级人工智能（ASI）系统发挥作用的三种途径：

预言机。可以精确回答向它提出的任何问题，包括人类不好作答的复杂问题在内——比方说，怎样制造一台更有效能的汽车引擎？谷歌是预言机的一种原始类型。

精灵机。可以执行任何赋予它的高级指令——使用分子组合器建造一台更高效能的新型汽车引擎——然后等待接受下一条指令。

主权机。可以进行宽泛、无止境的追求，能在世界上自由活动，能自己决定怎样做才最好——比如，发明出一种比汽车更快速、更低廉、更安全的交通方式。

上述问题与任务，对人类来说可能很复杂，但对ASI系统来讲，就像有人跟你说“我的铅笔掉到桌子底下了”，你只需把它捡起来放回桌上那么简单。

上图中的“焦虑大道”成员，埃利泽•尤德考斯基（Eliezer Yudkowsky）说得好：

世上无难题，难者不会、会者不难。智能前进一小步，一些“不可能”的事会突然迎刃而解。智能前进一大步，所有问题的答案都会“显而易见”。

信心角里有很多热心的科学家、发明家、企业家——但如果想在这段旅程中看到AI地平线上最明亮的光辉，我只想选一个人做我们的向导。

雷•科兹维尔，一个评价两极化的人。既有人对他如神般膜拜，也有人对他的观点白眼相加，所有这些，我在阅读的过程中全部领略。另有一些人的观点居于两者之间——作家道格拉斯•霍夫施塔特（Douglas Hofstadter）在论述科兹维尔书中观点时，生动地说道：“就好像是你把上等的美食跟一些臭狗屎完全搅和了起来，结果就是彻底搞不清哪是好、哪是坏。”

不管你是否赞成他的想法，他令人钦佩这一点，所有人都赞同。他十几岁就开始发明东西；并在接下来几十年中，做出了一些突破性的发明，包括第一台平板扫描仪、第一台能将文本转化为语音的扫描仪（使盲人能够阅读标准文本）、知名的科兹维尔音乐合成器（第一台真正的电子钢琴）和第一种可用于商业销售的大词汇量语音识别技术。他是5本国内畅销书的作者。他因为大胆的预测而出名，他的预言纷纷成真——在因特网尚未引人瞩目的上世纪80年代后期，他就预言到，因特网将在21世纪早期成为全球现象。《华尔街日报》曾把科兹维尔称为“不安分的天才”，《福布斯》称他为“终极思考机器”，《公司》杂志称他是“爱迪生的合法继承人”，比尔•盖茨说他是“我所知道的有关人工智能未来的最棒预言者”。2012年，谷歌的联合创始人拉里•佩奇找到科兹威尔，邀请他担任谷歌的工程总监。2011年，他参与创建了奇点大学，现由美国国家航空和宇宙航行局（NASA）主持，谷歌提供部分赞助。不得不说，他的人生很精彩。

这份简历非常重要。当科兹威尔清晰表达他对未来的看法时，听上去疯劲儿十足，但疯狂的是，他并不疯——他是这个世界上相当聪慧、知识相当渊博、与AI密切相关的一个人。你也许认为他对未来的预估是错的，但他并不愚蠢。得知他是个靠谱的老兄我很开心，因为在读过他对未来的预言后，我特别期盼他是对的。相信你也会一样。他的很多预言，曾被信心角的其他思想家们，如彼得•戴曼迪斯（Peter Diamandis）和本•戈策尔分享，你只要听上一听，便不难发现为何他的追随者——奇点主义者——会如此众多，又如此狂热。下面是他认为会发生的事：

时间表

科兹威尔认为，计算机会在2029年达到AGI水平；2045年时，我们不仅仅会拥有ASI，世界也将全然为之一变——他称之为奇点时代。他的人工智能时间表曾被视作惊世骇俗，时至今日，仍有许多人这么想。但过去15年中ANI系统的迅猛发展，已让大半个人工智能专家界靠近了科兹威尔的时间表。虽然跟穆勒和博斯特罗姆调查的答案中值（2040年实现AGI，2060年实现ASI）相比，科兹威尔的预测仍显得有些雄心勃勃，但差距已然不多。

科兹威尔所预言的2045奇点时代，将由下述三场同步进行的革命带来：即生物技术革命、纳米技术革命和影响力最强大的：人工智能革命。

只要阅读人工智能的未来，纳米技术基本上是绕不开的话题，所以在我们继续探讨之前，请你先花点时间，读一读下面这个浅蓝色块里的内容：

纳米技术

纳米技术是一门研究如何操控尺寸在1至100纳米范围内的物质的技术。1纳米是1米的十亿分之一、或1毫米的百万分之一，1至100纳米级的物质包括：病毒（超过100纳米）、DNA（10纳米宽）、大分子如血红蛋白（5纳米）、中分子如葡萄糖（1纳米）。原子的尺寸仅小了纳米一个数量级（约0.1纳米），一旦我们攻克纳米技术，就离操控单个原子的能力只差一步了。

让我们用大些的数量级来做个类比，好理解在纳米级上操控物质的困难程度。国际空间站距地面268英里（431千米）。如果人类是脑袋能顶到国际空间站的巨人，他将比现在高出25万倍。如果1-100纳米放大25万倍，将会是0.25-2.5厘米。纳米技术就相当于一个身高431千米的巨人，设法用尺寸在沙子与眼球大小之间的原材料搭建复杂物体。想要做到下一步——操控单个原子——巨人就需要把尺寸仅有1/40毫米的物体——安放到位——就算是人类，也得用显微镜才能看见那些东西。

纳米技术最早由理查德•费曼（Richard Feynman）在1959年的一次讲座中提出。他当时解释道：“据我所知，物理学原理并不排除一个原子、一个原子操控物体的可能性。在原理上，化学家写下的任何化学物质，物理学家都能合成。怎么弄？把原子们一个个放在化学家所说的地方，物质就造出来了。”就是那么简单。只要知道怎样移动单个分子和原子，理论上，我们就能造出任何东西。

1986年，工程师埃里克•德雷克斯勒（Eric Drexler）在他的经典著作《造物引擎》（Engines of Creation）一书中，为纳米技术奠定了基础，使纳米技术第一次成为一门严肃的科学。不过德雷克斯勒建议，那些想要了解该技术最前沿观点的人，最好读他2013年的新书：《固有的富足》（Radical Abundance）。

灰色粘质

我们现在再转移一下话题。很有趣。

我之所以写这一块，是因为我得告诉你，在有关纳米技术的知识里，实际上还有这个并不好玩的部分。在旧的纳米技术理论中，有一个给纳米装配的建议是：造出数万亿的纳米机器人，使之共同配合，完成装配。造出数万亿个纳米机器人的一个办法是：造出一个可以自我复制的机器人，然后开动复制程序，使机器人一变二、二变四、四变八，这样用不了一天，就有几万亿个机器人整装待发了。指数增长的力量。很聪明，对吧？

可这聪明，搞不好就会酿成彻彻底底的全球大灾难。问题在于：指数增长的力量，能让造出数万亿个机器人无比快捷，也能让“自我复制”变得令人胆寒——原本机器人总数达到几万亿，自我复制就会停止。可万一因为系统出了毛病，自我复制无法停止该怎么办？机器人可能会被设定为消耗碳基材料以支持自我复制。而不妙的是，地球上所有生命都是碳基生命。地球生物质大约包含10⁴⁵个碳原子，一个纳米机器人由10⁶个碳原子构成，因而10³⁹个机器人就会把地球上的所有生命都消耗掉，仅需130次（2¹³⁰约等于10³⁹）复制就能完成。届时，纳米机器人的大海（即所谓的灰色粘质）就会在地球上翻涌。科学家认为，机器人复制一次需要100秒，这就意味着，一个简单的错误会在3.5个小时内，很不爽地终结地球上的所有生命。更糟的是——如果恐怖分子搞到了纳米机器人技术，而且掌握了编程诀窍，他可以先造出几万亿个机器人，让它们遵照程序，用几周时间悄无声息地均匀散布到世界各地，然后同时发动袭击，只用花上90分钟，它们就能消耗一切——由于它们已经散布得到处都是，我们将束手无策。

虽然这个恐怖故事已被广泛讨论多年，但好消息是，它可能有些夸张了——创造“灰色粘质”一词的埃里克•德雷克斯勒，在读完我的帖子后回了一封电邮，谈到了他对灰色粘质的想法：“人们喜欢恐怖故事，这一个跟僵尸有关，就是念头本身把脑子吃掉的。”

一旦我们掌握了纳米技术，我们就能用它来制造技术设备、衣物、食物、各种各样的生物相关制品——人工血液细胞、微型病毒或癌症细胞摧毁器、肌肉纤维，等等——任何东西。在纳米技术的世界里，材料的成本不再却决于它的稀缺性或是制造难度，而是取决于它原子结构的复杂程度。在这个世界，一颗钻石也许比一块铅笔头上的橡皮还要便宜。

我们还没有做到那一步，而且做到这一步多易多难，目前也不好估算。但我们看上去似乎不太远了，科兹维尔预测这个时间是本世纪20年代。各国政府明白纳米技术将带来惊天动地的变化，已经在该项研究上投入了数十亿美元（迄今，美国、欧盟和日本已联合投资了50亿美元）。

一个超级智能机器人使用一台纳米级装配机，单是想想就觉得刺激。但纳米技术是人脑想出来的，还处在攻克边缘，鉴于对ASI系统而言，人脑所能做的事都是玩笑，我们得设想ASI能想出远超人脑理解能力、更具力量和先进性的技术。正因如此，当我们考虑“人工智能对我们是好事”的场景时，对未来会发生的事怎么高估都不为过——所以，如果感到下文对ASI未来的预测言过其实，请记得：它们会以我们无法想象的方式达成。更为可能的是，未来会发生什么，人脑根本无法预料。（待续）

（英文原版地址：The AI Revolution: Road to Superintelligence The AI Revolution: Our Immortality or Extinction）