注意：人工智能非你所想！

译者： 果果向前冲 原文地址： gizmodo.com

艾萨克·阿西莫夫的机器人三定律还不足以控制人工智能。上图是幻想插画家之父迈克尔·蕙兰为《曙光中的机器人》设计的封面。

近20年前“深蓝”与盖里·卡斯帕罗夫对战象棋获胜一事被誉为史上最具意义的机器智能测试。时至今日，谷歌的“阿法狗”与国手李世石在围棋锦标赛中决一胜负，对决前三局两次告捷，表明多年来人工智能经历了显著进化。机器的智慧最终超越人类，这一宿命感从未这般真实过，然而我们似乎还未抓住这个划时代事件的真正含义。

实际上，我们揪住人工智能不放的是一些严重、甚至危险的误解。去年年底，美国太空探索公司合伙创始人艾伦·马斯克做出人工智能将统治世界的警示，激起谴责声、支持声一片。在未来，这一重大事件能否发生、或以何种形式发生，争议人数之多令人吃惊。而当考虑到人工智能带来的巨大利益和潜在风险时，就尤其令人心烦。与人类的其他发明不同，人工智能或许会重塑人类，但或许也会毁灭人类。

该相信什么？这真的很难。然而，多亏了计算机科学家、神经学家和人工智能领域的理论家做出的开拓工作，使得一张更为清晰的画面开始浮现出来。下面是人工智能最常见的一些误解和谜团。

谜团一：“我们难以造出拥有类人智慧的人工智能。”

在这场历史性的头脑大比拼中，当前围棋大师李世石已连败两场。图片来源：盖蒂图

现实：现有的计算机已在游戏如国际象棋、围棋、证券市场交易、以及智能对话中赶上甚至超越人类。电脑和算法促使人工智能更加优化，它们赶超人类行为只是时间迟早的问题。

纽约大学的研究心理学家加里·马库斯指出“几乎所有”研究人工智能的人都相信机器终将超越人类。“对此热衷也好，怀疑也罢，两者之间唯一的区别不过是个时间问题。“未来学家如雷·库兹韦尔认为几十年内人工智能便可实现超越,其他人则认为此举可能要花上几个世纪。

对人工智能持怀疑论调的人认为，让人工智能超越人类是个无解的技术难题，况且生物大脑具有固有的独特性，他们的论调不足为信。就算我们的大脑是生物机器，它们也还只是机器。它们存在于现实世界，遵循基本的物理定律。关于人类大脑，我们已经了解的十分透彻。

谜团二：“人工智能具备自主意识。”

AMC的电视连续剧《人》中,一些人工智能具备自主意识。图片来源：AMC网站

现实：关于机器智能的一大常见假设即它拥有自主意识，可以像人一样思考。此外,诸如微软联合创始人保罗·艾伦之类的批判者认为,人类之所以还没有实现强人工智能(AGI),即能像人一样执行任何智力任务，是因为人类缺乏一套有关意识的科学理论。但正如伦敦帝国理工学院的认知机器人专家莫里·沙纳所言,我们应该避免两个概念的杂糅。

“意识固然是个有趣也重要的东西，但我不认为它是人类级别的人工智能所必需的,”他对Gizmodo网站如是说。“或者，更准确的说，我们用意识一词囊括人类集于一身的几大心理认知特性。”

我们可以想象有这样一台机器，它超级聪明但却有可能缺乏其中一种或几种这样的特性。最后，我们或许会创造出一个人工智能，它无敌聪慧，但却无法自主、主观、有意识的体验世界。沙纳罕认为智慧和意识或许可以在同一台机器上并存，但这是两个不同的概念，是我们不该忽视的事实。

仅仅因为机器通过了图灵测试，全程言行与人无异并不意味着他有自主意识。于我们而言，一个先进的人工智能可能会让人觉得它是有意识的，但比起自知，它更了解一块岩石、一个计算器。

谜团三：“人工智能，何惧之有！”

现实：今年1月,Facebook创始人马克·扎克伯格说,我们不该惧怕人工智能,人工智能之于世界益处颇多。他只说对了一半儿。从无人驾驶到新药品研发，我们不紧不慢的收割着人工智能带来的巨大利益，却不能保证每个人工智能的实例化都能与人为善。

一个高度智能系统能够全面了解特定任务,如解决一大棘手的金融问题或黑掉敌方系统。然而一旦涉及这些特殊领域之外的内容，它就会变得极度无知、神经大条。谷歌的DeepMind系统精通围棋，但它无能力亦无理由去探索围棋之外的领域。

火焰病毒用作中东国家的网络间谍。图片来源：《连线》杂志

许多这样的系统都充满了安全顾虑。‘超级工厂病毒’就是一个很好的例子。它强势、精密，是由美国、以色列军队研发的一种代码病毒武器，用于渗透到伊朗的目标核电站。但不知怎的，这款恶意软件有意无意地感染了一个俄罗斯核电站。

谜团四：“超级人工智能满智慧零错误。”

上图为1957年美国电影《隐身男孩》中的巨型计算机。

现实：人工智能研究员和Surfing Samurai 机器人创始人，理查德·鲁斯莫尔认为，人工智能的末日设想情景多是不合逻辑的，他认为这些设想总会涉及一个假设：人工智能机器人会说“我知道摧毁人类是我设计上的小故障导致的，但我不得不那样做。“鲁斯莫尔指出，如果人工智能是带着这样的想法摧毁我们，那么它会一直出现这样的逻辑矛盾，从而导致自己的知识库被破坏，变得愚笨而无法带来破坏力。他还认为，“人工智能只具备内嵌程序赋予的功能”这一谬论和电脑发展早期反对者的观点并无二致，当时的电脑反对者也认为，电脑永远不具备任何灵活性。

在哈弗大学的人类未来研究所工作的皮特·麦金泰尔和斯图尔特·阿姆斯特朗两人和鲁斯莫尔观点不同，他们认为人工智能很大部分受限于自身内嵌程序他们不认为，人工智能不会犯错。相反，人工智能可能很笨，笨到根本不懂人类想要它们做什么。

“从定义而言，超级人工智能是一个拥有智力的特工，几乎比所有相关领域的顶尖人才都要聪明。”麦金太尔告诉Gizmodo网站。“它们会完全明白我们想要它干什么。”麦金太尔和阿姆斯特朗认为，人工智能只会运行自身预先设置的程序，但等它发展到足够聪明时，它就应该能区分程序与规则的区别，或明白人类的预期。

麦金太尔将人类未来的处境比作悲惨的老鼠。老鼠有觅食打洞的本能，但人类却把出现在自己的房间里老鼠赶尽杀绝。他说：“就像人类明白老鼠想要什么，超级人工智能系统也能明白我们想要什么，却不满足我们的需求。”

谜团五：“简单修理就能解决人工智能的操控问题”

正如电影《机器姬》里的场景，控制远比人类聪明的人工智能是极其困难的。

现实：假设我们创造的人工智能比人类聪明，我们就会面临一个严肃的问题—“操控问题”。未来主义者和人工智能理论家无法解释，一旦制造出超级人工智能，我们要如何使用、控制它们，或者如何确保超级人工智能对人类无害。近来，乔治亚理工学院的研究人员提出来一个幼稚的建议，建议人工智能通过阅读小故事学习人类价值观和社会规范。但现实却要复杂得多。

阿姆斯特朗说，“很多人提出了简单技巧，以为这样就可以解决人工智能的控制问题。”例如，有人提出，把超级人工智能设计为以取悦人类为目标、或者心甘情愿做人类的工具。又或者，把爱、尊重等概念编入它的源代码。而且为了避免它对世界的看法过于简单单一，要把它设计为懂得欣赏知识、文化和社会多样性的人工智能。

艾萨克·阿西莫夫提出的“机器人三定律”催生了伟大的科幻小说，但是我们需要更实际的办法解决“控制问题”。

但这些办法要么太简单，试图将人类错综复杂的喜恶浓缩成一个简单定义，要么把人类复杂的价值观浓缩为一个词、一个句子、或一种想法。例如，为“respect”一词找到一个明确可行的定义就面临巨大的困难。

“并不是说这些简单方法毫无用处，很多建议很有研究的价值，有利于帮助解决最后的问题”阿姆斯特朗说。“但我们不能完全依赖它们，而要努力探索研究它们背后的含义。”

谜团六：“人类会被人工智能摧毁”。

图片来源：《黑客帝国》

现实：人工智能是否会摧毁人类，人类能否操控它们，这些都尚无定论。正如人工智能理论家艾利泽·尤德考斯基所说：“人工智能不憎恨你，也不爱你，不过，你是由原子组成的，人工智能可以用原子另作他用。”

在作品《超级人工智能：道路、危险、战略》中，哈佛大学哲学家尼克·博斯特罗姆写到，一旦真正实现超级人工智能，它带来的风险将大于以往任何人类发明。著名思想家如埃隆·马斯克、比尔·盖茨和史蒂芬·霍金也曾发出相似的警告，史蒂芬·霍金曾预言称人工智能可能是人类“史上最大的错误”。

麦金太尔表示，超级人工智能所能拥有多数目标中，  完全有理由把人类排除其中。

他断言，“人工智能可以准确地预料到，我们不想让它以消费者、环境和动物为代价来换取某一公司的利益最大化。”“因此，人工智能会尽力确保自己不会被中断或被干扰——被关闭，或改变预设目标，否则目标将无法完成。”

除非超级人工智能的目标完全模仿人类的，否则它完全有理由不给我们阻止它的机会。而且，鉴于超级人工智能的智力水平远超出人类，我们人类将对它的决定无计可施。

但一切都是未知的，谁也不能确定人工智能会发展到何种程度，又是否会危及到人类。正如马斯克所言，人工智能实际上可以进行互相控制和监管。或给它们灌输人类价值观，或将与人为善设为最高指令。

谜团七：“超级人工智能很友好。”

图片来源：《星际迷航：下一代》

现实：哲学家伊曼努尔·康德坚信智慧与道德密切相关。而神经学家大卫·查默斯在论文《奇异性：哲学浅思》中借用了康德这一著名理论来应和超级人工智能的崛起。

若这一观点正确……可以预见的是智能风暴乍起，道德风暴相随。接下来，一个智力超群、道德高尚的ASI系统就是意料之中了。由此我们尚且认为他们会与人为善。

尽管如此，高级人工智能本性良善，能被教化一说也站不住脚。如阿姆斯特朗所说，聪慧的战犯不在少数。人类中似乎并无智慧与道德相关一说，因而他对其他智慧体中必然存在这种相关性的假设提出质疑。

“比起蠢笨的同伴，那些品行恶劣的聪明人所造成的伤害范围更广，”他指出。“智慧只会让他们坏的更变态，却不能令其从良。”

麦金太尔解释说，智能代理的达标能力与目标明智与否没有一毛钱关系。“如若人工智能得天独厚，智力提升与道德提高呈正相关，那人类就太幸运了，”他如是说。“然而对于能够左右人类命运的事物而言，仅靠运气非上上策。”

谜团八：“人工智能和机器人所带来的风险是一样的。”

图片来源：《终结者》

现实：这类误解尤为常见（例子比比皆是），在缺乏批判的媒体和诸如《终结者》系列电影的渲染下根深蒂固。

如果类天网的超级人工智能存心颠覆人类，也就不会动用手持机枪的仿真机器人了。释放生物鼠疫或用纳米技术制造一场“灰雾”灾难或许更为有效。直接破坏大气层亦可。人工智能的潜在危害不在于他对未来机器人的影响，而在于它将如何向世界宣示自身存在。

谜团九：“科幻小说中的人工智能是对未来的真实写照。”

众多大脑类型。图片来源：埃利泽/米里

现实：诚然，作家和未来学家多年来一直借助科幻小说做些不切实际的预测，但这跟意大利航天局所提出的黑洞视界是两码事。此外，人工智能与人类的本质区别使得了解、预测它的确切性质和形态难如登天。

为娱乐弱小的人类，科幻小说中的“人工智能”大多与人类似。“有一张有着所有可能思维的脑谱，即便在人类中，你和邻居各自迥异，但比起所有可能存在的思维来，这点不同都不是事儿，“麦金太尔说道。

大多数科幻小说是为了使故事更引人入胜，而非追求科学准确度。因而科幻小说中发生冲突的双方通常都是旗鼓相当。"设象一下，假如故事里的人工智能无悲喜、无爱恨、无意识，最终轻轻松松灭了人类，只为实现一个毫无乐趣可言的目标。呵呵哒，这故事该何其无聊！"阿姆斯特朗说道。

谜团十：“可怕的是，人工智能将全面取代人力。”

现实：人工智能实现大部分人力工作自动化与它对人类的潜在毁灭性完全是两码事。马丁·福特著有《机器人的崛起：技术发展与失业危机》一书，据他所言，二者常被混为一谈。研究人工智能对未来的影响无可厚非，但前提是这不会分散我们在接下来的几十年中应对问题的注意力。其中最重要的就是实现大规模自动化。nullnull图片：盖蒂。毫无疑问，从基层工厂到上层白领，人工智能已做好准备替代许多现有工作。

一些专家预测，美国近半数工作在不久的将来会实现自动化。

但这并不意味着我们就无计可施了。一个有效措施即减少人们的体、脑力劳动，这也是人们希望达到的理想目标。"

在接下来几十年里人工智能将颠覆很多工作，但这也是件好事。"例如，自动驾驶汽车取代卡车司机以降低运输成本，从而使商品变得更便宜。“虽然作为卡车司机的你失业了，但其他人却能有效提高自己工资的购买力，”米勒说。“而这些省下来的钱将会用来消费其他商品和服务，从而催生出更多新工作。”

人工智能十有八九能创造出新的生财之道、解放人力，这样人类就可以做其他的事情。另外人工智能的‘进化’也将带来其他领域的发展，尤其是制造业。未来，满足基本生活需求会变得容易很多。

注释：为使文章清晰易懂，“人工智能很聪明不会犯错”这一板块已修整。

译者：果果向前冲、一江水、阿阿阿秦