• RSS订阅 加入收藏  设为首页
热点聚焦

人工智能革命——人类的永生或灭绝(8)

时间:2016-4-12 9:00:20  作者:黄菁 编译  来源:中华智库园  查看:129  评论:0
内容摘要:站在“自信角”的人们兴奋不已,他们把目标锁定在平衡木欢乐的一边,确信那是我们所有人前进的方向。对他们而言,未来完全符合预期,而且来得刚刚好。

[美]蒂姆•厄本 作 黄菁 编译

为什么未来有可能是我们最伟大的梦想

在我研究人工智能的时候,发现站在这里的人出乎意料地多(见下图):

 

人工智能革命——人类的永生或灭绝(8)

站在“自信角”的人们兴奋不已,他们把目标锁定在平衡木欢乐的一边,确信那是我们所有人前进的方向。对他们而言,未来完全符合预期,而且来得刚刚好。

将这些人与其他思想家区分开的东西(我们将在下文讨论),并非他们求取永生的欲望——而是他们怀抱着的,对人类必将在“永生”一边着陆的信心。

他们的信心从哪儿来,仍存在争议。批评家们称这种信心来源于一种盲目的兴奋,无非就是对潜在负面结果的忽视与否认。但“信心角”人士们则认为,在平衡木上编造世界末日景象太幼稚了,科技已经在、并且会一直帮助我们很多,而非伤害我们。

双方观点我们都会论及,以便你在阅读中形成自己的想法。但是在这一部分,请先把你的怀疑论收好,让我们好好看看平衡木的欢乐一边都有些什么——你读到的事真的可能发生,尝试接受一下吧。如果你曾向一位原始人展示过室内生活的舒适、科技与应有尽有,对他而言,仿佛来到了一个虚构的魔法世界——未来,对我们而言,我们得谦虚地承认,也有可能是同样不可思议的转变。

尼克•博斯特罗姆描述了超级人工智能(ASI)系统发挥作用的三种途径:

预言机。可以精确回答向它提出的任何问题,包括人类不好作答的复杂问题在内——比方说,怎样制造一台更有效能的汽车引擎?谷歌是预言机的一种原始类型。

精灵机。可以执行任何赋予它的高级指令——使用分子组合器建造一台更高效能的新型汽车引擎——然后等待接受下一条指令。

主权机。可以进行宽泛、无止境的追求,能在世界上自由活动,能自己决定怎样做才最好——比如,发明出一种比汽车更快速、更低廉、更安全的交通方式。

上述问题与任务,对人类来说可能很复杂,但对ASI系统来讲,就像有人跟你说“我的铅笔掉到桌子底下了”,你只需把它捡起来放回桌上那么简单。

上图中的“焦虑大道”成员,埃利泽•尤德考斯基(Eliezer Yudkowsky)说得好:

世上无难题,难者不会、会者不难。智能前进一小步,一些“不可能”的事会突然迎刃而解。智能前进一大步,所有问题的答案都会“显而易见”。

信心角里有很多热心的科学家、发明家、企业家——但如果想在这段旅程中看到AI地平线上最明亮的光辉,我只想选一个人做我们的向导。

雷•科兹维尔,一个评价两极化的人。既有人对他如神般膜拜,也有人对他的观点白眼相加,所有这些,我在阅读的过程中全部领略。另有一些人的观点居于两者之间——作家道格拉斯•霍夫施塔特(Douglas Hofstadter)在论述科兹维尔书中观点时,生动地说道:“就好像是你把上等的美食跟一些臭狗屎完全搅和了起来,结果就是彻底搞不清哪是好、哪是坏。”

不管你是否赞成他的想法,他令人钦佩这一点,所有人都赞同。他十几岁就开始发明东西;并在接下来几十年中,做出了一些突破性的发明,包括第一台平板扫描仪、第一台能将文本转化为语音的扫描仪(使盲人能够阅读标准文本)、知名的科兹维尔音乐合成器(第一台真正的电子钢琴)和第一种可用于商业销售的大词汇量语音识别技术。他是5本国内畅销书的作者。他因为大胆的预测而出名,他的预言纷纷成真——在因特网尚未引人瞩目的上世纪80年代后期,他就预言到,因特网将在21世纪早期成为全球现象。《华尔街日报》曾把科兹维尔称为“不安分的天才”,《福布斯》称他为“终极思考机器”,《公司》杂志称他是“爱迪生的合法继承人”,比尔•盖茨说他是“我所知道的有关人工智能未来的最棒预言者”。2012年,谷歌的联合创始人拉里•佩奇找到科兹威尔,邀请他担任谷歌的工程总监。2011年,他参与创建了奇点大学,现由美国国家航空和宇宙航行局(NASA)主持,谷歌提供部分赞助。不得不说,他的人生很精彩。

这份简历非常重要。当科兹威尔清晰表达他对未来的看法时,听上去疯劲儿十足,但疯狂的是,他并不疯——他是这个世界上相当聪慧、知识相当渊博、与AI密切相关的一个人。你也许认为他对未来的预估是错的,但他并不愚蠢。得知他是个靠谱的老兄我很开心,因为在读过他对未来的预言后,我特别期盼他是对的。相信你也会一样。他的很多预言,曾被信心角的其他思想家们,如彼得•戴曼迪斯(Peter Diamandis)和本•戈策尔分享,你只要听上一听,便不难发现为何他的追随者——奇点主义者——会如此众多,又如此狂热。下面是他认为会发生的事:

时间表

科兹威尔认为,计算机会在2029年达到AGI水平;2045年时,我们不仅仅会拥有ASI,世界也将全然为之一变——他称之为奇点时代。他的人工智能时间表曾被视作惊世骇俗,时至今日,仍有许多人这么想。但过去15年中ANI系统的迅猛发展,已让大半个人工智能专家界靠近了科兹威尔的时间表。虽然跟穆勒和博斯特罗姆调查的答案中值(2040年实现AGI,2060年实现ASI)相比,科兹威尔的预测仍显得有些雄心勃勃,但差距已然不多。

科兹威尔所预言的2045奇点时代,将由下述三场同步进行的革命带来:即生物技术革命、纳米技术革命和影响力最强大的:人工智能革命。

只要阅读人工智能的未来,纳米技术基本上是绕不开的话题,所以在我们继续探讨之前,请你先花点时间,读一读下面这个浅蓝色块里的内容:

纳米技术

纳米技术是一门研究如何操控尺寸在1至100纳米范围内的物质的技术。1纳米是1米的十亿分之一、或1毫米的百万分之一,1至100纳米级的物质包括:病毒(超过100纳米)、DNA(10纳米宽)、大分子如血红蛋白(5纳米)、中分子如葡萄糖(1纳米)。原子的尺寸仅小了纳米一个数量级(约0.1纳米),一旦我们攻克纳米技术,就离操控单个原子的能力只差一步了。

让我们用大些的数量级来做个类比,好理解在纳米级上操控物质的困难程度。国际空间站距地面268英里(431千米)。如果人类是脑袋能顶到国际空间站的巨人,他将比现在高出25万倍。如果1-100纳米放大25万倍,将会是0.25-2.5厘米。纳米技术就相当于一个身高431千米的巨人,设法用尺寸在沙子与眼球大小之间的原材料搭建复杂物体。想要做到下一步——操控单个原子——巨人就需要把尺寸仅有1/40毫米的物体——安放到位——就算是人类,也得用显微镜才能看见那些东西。

纳米技术最早由理查德•费曼(Richard Feynman)在1959年的一次讲座中提出。他当时解释道:“据我所知,物理学原理并不排除一个原子、一个原子操控物体的可能性。在原理上,化学家写下的任何化学物质,物理学家都能合成。怎么弄?把原子们一个个放在化学家所说的地方,物质就造出来了。”就是那么简单。只要知道怎样移动单个分子和原子,理论上,我们就能造出任何东西。

1986年,工程师埃里克•德雷克斯勒(Eric Drexler)在他的经典著作《造物引擎》(Engines of Creation)一书中,为纳米技术奠定了基础,使纳米技术第一次成为一门严肃的科学。不过德雷克斯勒建议,那些想要了解该技术最前沿观点的人,最好读他2013年的新书:《固有的富足》(Radical Abundance)。

灰色粘质

我们现在再转移一下话题。很有趣。

我之所以写这一块,是因为我得告诉你,在有关纳米技术的知识里,实际上还有这个并不好玩的部分。在旧的纳米技术理论中,有一个给纳米装配的建议是:造出数万亿的纳米机器人,使之共同配合,完成装配。造出数万亿个纳米机器人的一个办法是:造出一个可以自我复制的机器人,然后开动复制程序,使机器人一变二、二变四、四变八,这样用不了一天,就有几万亿个机器人整装待发了。指数增长的力量。很聪明,对吧?

可这聪明,搞不好就会酿成彻彻底底的全球大灾难。问题在于:指数增长的力量,能让造出数万亿个机器人无比快捷,也能让“自我复制”变得令人胆寒——原本机器人总数达到几万亿,自我复制就会停止。可万一因为系统出了毛病,自我复制无法停止该怎么办?机器人可能会被设定为消耗碳基材料以支持自我复制。而不妙的是,地球上所有生命都是碳基生命。地球生物质大约包含1045个碳原子,一个纳米机器人由106个碳原子构成,因而1039个机器人就会把地球上的所有生命都消耗掉,仅需130次(2130约等于1039)复制就能完成。届时,纳米机器人的大海(即所谓的灰色粘质)就会在地球上翻涌。科学家认为,机器人复制一次需要100秒,这就意味着,一个简单的错误会在3.5个小时内,很不爽地终结地球上的所有生命。更糟的是——如果恐怖分子搞到了纳米机器人技术,而且掌握了编程诀窍,他可以先造出几万亿个机器人,让它们遵照程序,用几周时间悄无声息地均匀散布到世界各地,然后同时发动袭击,只用花上90分钟,它们就能消耗一切——由于它们已经散布得到处都是,我们将束手无策。

虽然这个恐怖故事已被广泛讨论多年,但好消息是,它可能有些夸张了——创造“灰色粘质”一词的埃里克•德雷克斯勒,在读完我的帖子后回了一封电邮,谈到了他对灰色粘质的想法:“人们喜欢恐怖故事,这一个跟僵尸有关,就是念头本身把脑子吃掉的。”

一旦我们掌握了纳米技术,我们就能用它来制造技术设备、衣物、食物、各种各样的生物相关制品——人工血液细胞、微型病毒或癌症细胞摧毁器、肌肉纤维,等等——任何东西。在纳米技术的世界里,材料的成本不再却决于它的稀缺性或是制造难度,而是取决于它原子结构的复杂程度。在这个世界,一颗钻石也许比一块铅笔头上的橡皮还要便宜。

我们还没有做到那一步,而且做到这一步多易多难,目前也不好估算。但我们看上去似乎不太远了,科兹维尔预测这个时间是本世纪20年代。各国政府明白纳米技术将带来惊天动地的变化,已经在该项研究上投入了数十亿美元(迄今,美国、欧盟和日本已联合投资了50亿美元)。

一个超级智能机器人使用一台纳米级装配机,单是想想就觉得刺激。但纳米技术是人脑想出来的,还处在攻克边缘,鉴于对ASI系统而言,人脑所能做的事都是玩笑,我们得设想ASI能想出远超人脑理解能力、更具力量和先进性的技术。正因如此,当我们考虑“人工智能对我们是好事”的场景时,对未来会发生的事怎么高估都不为过——所以,如果感到下文对ASI未来的预测言过其实,请记得:它们会以我们无法想象的方式达成。更为可能的是,未来会发生什么,人脑根本无法预料。(待续)返回中华智库园网首页

 

(英文原版地址:The AI Revolution: Road to Superintelligence The AI Revolution: Our Immortality or Extinction)


标签:人工智能革命 人类的永生或灭绝 8 
相关评论

免责声明

    本网站转载的所有的文章、图片、音频、视频文件等资料,均出于为公众传播有益资讯信息之目的,其版权归版权所有人所有。所采用的非本站原创文章及图片等内容无法逐一和版权者联系,若所选内容作者及编辑认为其作品不宜上本网供大家浏览,请及时用电子邮件通知我们,以便即时删除,避免给双方造成不必要的损失。

邮箱:zhzky102@163.com

 

版权所有 智库园(北京)国际文化有限公司  技术支持:中国企业集成网  京公网安备:110108006569

京ICP备案号:10020766