• RSS订阅 加入收藏  设为首页
热点聚焦

人工智能革命——人类的永生或灭绝(13)

时间:2016-5-6 9:10:28  作者:黄菁 编译  来源:中华智库园  查看:290  评论:0
内容摘要:人类的命运全靠着计算机按照预想、毫无惊喜地解释和执行那个流程表,这会让我兴奋吗?断然不会。但我认为,有了足够聪明的人在充分思考与深谋远虑,我们也许能够想到怎样创造出友好的超级人工智能(ASI)。

[美]蒂姆•厄本 作 黄菁 编译

人类的命运全靠着计算机按照预想、毫无惊喜地解释和执行那个流程表,这会让我兴奋吗?断然不会。但我认为,有了足够聪明的人在充分思考与深谋远虑,我们也许能够想到怎样创造出友好的超级人工智能(ASI)。

如果建造ASI的人不过就是焦虑大道上那些杰出的、思维超前的、谨慎的思想家,事情也就好办了。

但现在,正有各类政府、公司、军事力量、科学实验室、黑市组织在研究各种各样的人工智能。他们中很多机构正试图建造能自我改进的人工智能,有那么一刻,如果有个人对恰当类型的系统作出了一点创新,ASI就会在我们的星球上出现。中值专家预测那一刻在2060年,科兹威尔预测是2045年;博斯特罗姆认为,从现在起10年之后一直到本世纪末,这一刻随时都会到来,但他认为,当那一刻到来的时候,ASI将用快速起飞令我们震惊。他这样描述了我们的处境:

在智能爆炸之前,人类就像是玩炸弹的小孩子。我们玩具的力量和我们未成熟的行为之间是如此不匹配。超级智能是我们尚未、并且未来很长一段时间都无法做好准备迎接的挑战,我们不知道爆炸何时会发生,尽管我们把装置靠近耳边时,能听到微弱的滴答声。非常棒。但是我们赶不走炸弹边上的所有小孩儿——有太多或大或小的机构在搞这个,而很多建造创新型人工智能系统的技术并不需要大量资本,研发可在社会上的诸多隐匿之处进行而不受监控。同样,我们也无法测量发展情况,因为研发人工智能的很多机构——偷偷摸摸的政府、黑市或恐怖组织、秘密科技公司正像虚构出来的机械人公司一样——不想让竞争对手知道他们的进度。

尤其麻烦的是,这些大量的、形形色色研究人工智能的团体正以最高速度互相赶超——他们开发出了越来越聪明的ANI(窄域人工智能)系统,都想在竞争中先发制人。最有野心的机构进展速度更快,做着如果他们能率先造出ANI,就能得到无上金钱、奖赏、权力和名声的美梦。而当你在全力冲刺的时候,是没啥功夫停下来仔细考虑危不危险的。正相反,他们很可能会给计算机编入一个非常简单的、简化主义目标——比如拿着笔在纸上写一张简单的便条——先“让人工智能干起来”,等将来某个时候,一旦他们搞清楚怎样在计算机上建造极强智能的时候——他们觉得自己永远赶得及来修正这个目标——人家是有这个安全意识的,对吧……?

博斯特罗姆和其他很多思想家一样,认为最有可能出现的景象是:当第一台ASI系统问世后,会很快看出自己作为世界上唯一一台超级人工智能系统的战略利益,在实现了快速起飞之后,尽管它仅比第二名早几天问世,也能在智能上足够领先,有效并永久地压制其他竞争者的发展。博斯特罗姆把这称作决定性战略优势,这将使世界上第一部ASI成为单例——一部可以永远按照自己的突发奇想来统治世界的ASI,不管它的奇想是将我们带往永生、抹掉我们的存在,还是把宇宙物质变成数不清的回形针。

单例现象可以对我们有利,也可以招致我们的毁灭。如果最努力思考着人工智能理论及人类安全的那些人可以在任何ANI达到人类智能水平之前就想出确保安全的对策,造出友好ASI,第一部ASI可能会变得友善。它接着就可以使用它的决定性战略优势对单例状态加以保护,它轻松又密切的监视,可以防止任何潜在的非友好ASI被制造出来。一切将对我们有利。

但如果事情朝着另一个方向走——如果全球发展人工智能的热潮在发展出能确保人工智能安全的科学之前,就达到了ASI起飞的一刻,很有可能,像塔莉一样的非友好人工智能便会成为单例,我们则将面临生存大灾难。

至于风是向哪一个方向吹?呃,现在投给创新性人工智能技术的钱,可比投给人工智能安全研究方面的钱多多了……

这也许是人类历史上最为重要的竞赛。我们将要有一个结束我们地球之王统治权的真正机会——接下来,我们是幸福的退休还是直接上绞刑架,依然前途未卜。

现在的我,内心翻卷着怪异的、喜忧参半的感受。

一方面,考虑到我们的物种,看上去我们有且仅有一次机会让事情对头。在我们手中诞生的第一部ASI,很有可能也将是最后一部——鉴于1.0版本的产品总免不了故障众多,那还真是可怕。另一方面,尼克•博斯特罗姆指出,我们仍握有很大优势:我们握有先手。我们会尽力拿出足够的谨慎与远见来做这件事,以让我们自己胜算多多。而风险会有多高呢?

人工智能革命——人类的永生或灭绝(13) 

如果ASI真在本世纪出现,而造成的后果真如大多数专家认为的那么极端——并且永恒,那么,我们双肩上正承载着巨大的责任。数百万年之后的人们正默默地看着我们,尽其所能地盼望着我们不要搞砸。我们有一次机会,成为赠予未来人类“生命”——甚至有可能是毫无痛苦、永久延续的生命——这一礼物的人,或成为吹熄生命的那些人——让这一如此与众不同的物种,连同他的音乐、他的艺术,他的好奇心与他的欢笑,他无有穷尽的发现与发明,以如此忧伤和唐突的结局结尾。

当我考虑这些事的时候,我唯一期望的就是,我们不要匆忙行事,要对人工智能非常谨慎才行。如今没有哪件事比把这件事搞定更加重要——无

论我们将为此花去多少时间。

但是,——

我想到“不死”这件事情——

不死——

情况多半会是这样的:

人工智能革命——人类的永生或灭绝(13) 

接下来,我也许就会认为人类的音乐和艺术是不错,但也并不是就那么好,其中不少,事实上还挺糟糕。很多人的笑声很烦人,而那些几百万年之后的人其实并没有在期待着什么,因为他们现在并不存在。而且,也许我们用不着过分谨慎,毕竟也没人真想那么干呀。

因为,我才死,人们就搞明白了不再死亡的办法,这也是有够糟糕。

过去一个月中,这些想法在我的脑中翻来滚去。

但不管你的目标在哪里,也许我们都应该想一想、聊一聊这件事,并投入比我们现在更多的努力。

这让我想起了《权力的游戏》(Game of Thrones),那些人总是“争来斗去,殊不知我们大家真该关注的,是那来自长城以北的威胁”。我们正立在我们的平衡木上,为其上任何有可能发生的事件争吵不休,对所有诸如此类的问题都加以强调,殊不知,一个被踢下平衡木的“大好时机”正等待着我们。

当那件事发生的时候,所有这些平衡木上的问题都将变得不再重要。它们要么都变得易于解决,要么我们再无问题——因为死人是不会有问题的——取决于我们将被踢到平衡木的哪一边。

这就是为什么,了解人工智能的人们把它叫做人类的最后一样发明——我们最后需要面对的挑战。

所以,它值得我们聊上一聊。(完)返回中华智库园网首页

 

(英文原版地址:The AI Revolution: Road to Superintelligence  The AI Revolution: Our Immortality or Extinction)


标签:人工智能革命 人类的永生或灭绝 13 
相关评论

免责声明

    本网站转载的所有的文章、图片、音频、视频文件等资料,均出于为公众传播有益资讯信息之目的,其版权归版权所有人所有。所采用的非本站原创文章及图片等内容无法逐一和版权者联系,若所选内容作者及编辑认为其作品不宜上本网供大家浏览,请及时用电子邮件通知我们,以便即时删除,避免给双方造成不必要的损失。

邮箱:zhzky102@163.com

 

主办单位:智库园(北京)国际文化有限公司  技术支持:中企集成  京公网安备:110108006569  备案号:京ICP备10020766号-2