我们该担心“可怕”的人工智能吗?你得听听不同看法

标签: 现象 The BIG Talk 人工智能 百度 百度百家 | 发表时间:2015-01-31 23:51 | 作者:光谱
分享到:
出处:http://www.pingwest.com

人工智能是什么?用通俗的话来解释,它是用计算机系统,通过海量的数据和强大的运算能力来模拟人类思维的过程。听上去,人工智能应该是帮助电脑变得更聪明,好让聪明的电脑帮助人类的一门学科——至少很多人工智能学界和商业公司的人是这样认为的……

不过并非所有人都认为聪明的电脑只会帮助人类。因为对于很多人来说,他们头脑中的人工智能,往往来自于科幻电影,是《Her》里面的萨曼莎,或是《终结者》里面的终结者——人工智能被打上了阴险、欺骗和替代人类、奴役人类的标签。同样,一些人工智能专家甚至已经开始为人工智能的过快发展、未来将具备的强大智能水平而感到担忧。

应用人工智能技术的科技行业、研究人工智能的学界,至今尚未就人工智能是否值得担忧而达成一致。最近,一些知名人士找到机会公开发表了自己的看法:

gates

 比尔·盖茨:我也很担心人工智能发展

本周三在论坛网站Reddit上参加 “AMA”(Ask Me Anything)活动的时候,微软创始人比尔·盖茨被问到了关于人工智能发展的看法。他称自己属于很担心超智能技术的人,并对人工智能的快速发展感到担忧。

当被问到“2045年个人计算会发展到何种地步”的时候,盖茨说,在接下来的三十年里,机器人技术,以及人工智能的机器视觉、语音识别等方面技术都会迎来突飞猛进的发展。他认为,届时电脑和机器人因为能力强大,将会被人类密集使用。

超智能的发展对于人类究竟会带来多少实质性的威胁?著名物理学家史蒂芬·霍金博士(Dr.Stephen Hawking)对于这个问题刚刚给出过“为人类带来灭亡”的评论;而特斯拉创始人兼CEO 伊隆·马斯克(Elon Musk)则认为人们应该对人工智能保持高度警惕;曾发明多种袖珍电子产品的英国著名发明家克里夫·辛克莱(Clive Sinclair)也认为人工智能将会毁灭人类。

曾因创立微软而懊悔没能进行人工智能研发的比尔·盖茨,也属于这个队伍。没错,这群赫赫有名的大人物已经发出l提醒:要警惕、甚至远离人工智能。

4

吴恩达:“人工智能毁灭人类”就是“炒作”(hype)

不过,在那些长期从事人工智能研究的专业人士看来,这项技术远远不值得担忧。人工智能领域的权威人物、斯坦福大学人工智能实验室主任吴恩达(Andrew Ng)就刚刚表达了跟马斯克和盖茨们不同的看法。

这个周五, 百度在硅谷举办的The BIG Talk硅谷场上,这位刚刚加入百度不到一年的首席科学家,为自己的研究方向正义性做出了强有力的背书。在他看来,无论是杀手机器人,还是变得比人类更聪明的电脑,都不应该是需要担心的东西——因为它们暂时还不会出现。目前人们对于人工智能的讨论,都只是在过度简易的比较人脑和计算机神经网络。

尽管在外人看来,人工智能研究的是常人难以理解的高科技,也就是让计算机去模仿人思考的科技,但其实,人工智能学界普遍有一种共识,就是人工智能实际上还处于非常低智的阶段。以图像识别、语音识别的深度学习系统为例:目前绝大多数的系统还处于大脑容量扩张的阶段,绝对还没有达到能够思考的程度——绝大多数的系统所做的只是利用海量数据,配合人类教给他们的逻辑,去计算结果。

这个情况在吴恩达(Andrew Ng)演讲所用的Keynote当中也有所呈现。他在演讲现场展示了一个“人工智能虚拟圈”:人工智能需要使用大量数据去做出一个优秀的商业产品,从而获得大量用户,用大量用户产生的大量数据再次去反哺系统——吴恩达清楚地明白这一点,尽管百度目前在人工智能方面还没有优秀的、业界知名的商业产品出现。

ppt

另外,事实上,百度正在进行深度学习研究的角度是人机交互,这意味着一切研究最终希望实现的目标,产出的成果,都是为了优化人与机器的交互。

吴恩达认为,人工智能最终将要改变的是人与科技交互的方式,无论是通过文字、图像还是语言。也就是说,人在未来将继续扮演最核心和最重要的角色。至于那些对人工智能的恶意的担忧,大多是炒作而已。

在吴恩达看来,人工智能并不会带给人类社会世界末日,它的真正挑战在于其他的层面,比如就业——这和历史上所有科技带来的挑战都是一样的:技术取代传统的人力和人工,变革越来越快,这些人就需要更快更多地接受训练来重新找到工作,适应新的生活方式。从这个角度上来说,来自学术界和政界对于“邪恶机器人”的炒作,实际上是个劳工话题。

3rd

另两位专家:人工智能有弊有利,人类应谨慎前行

人工智能发展协会主席(Association for the Advancement of Artificial Intellegence, AAAI)Thomas Ditterich,和该协会前主席,现微软研究院Redmond实验室负责人Eric Horvitz,最近也 在Medium上合著了一篇文章,深刻阐释了人工智能的利与弊。

关于人工智能的讨论甚嚣尘上,但他们希望人们明白,没有人工智能,人们的生活将回到很久以前的尴尬境地。比如,地图软件和GPS通过人工智能来帮助司机计算最优路线、搜索引擎通过人工智能来提供搜索结果和答案……

这两位专家认为,人工智能的发展是应该的(显而易见); 但同时,人工智能的发展仍然存在三种风险情况,它们分别是:软件错误、黑客攻击和“魔法师学徒”式的误解。

说白了就是:

首先,人工智能系统,在遇到过去统计式机器学习过程当中从未遇到过的意外情况的时候,必须仍然能够正常运行。也就是说,如果一个自动驾驶系统突然在路上遇到了系统无法识别的一个东西,它至少应该不要把它忽视掉,而是能够选择合理的处理方法,无论是绕过还是减速。

其次,人工智能系统和平常的软件并无大异,也会受到病毒等恶意软件的危害,而由于人工智能系统的责任更大,比如自动驾驶系统,掌握的是乘客的姓名,因此其抗干扰的能力理应更强。

最后,人工智能系统所做的不应该是严格执行人的指令,而是明白指令代表的含义。比如,“带我去机场,越快越好!”不意味着自动驾驶系统可以以300迈的速度飞驰,所行之径惨死的过路者无数。换句话说,人工智能系统应该按照人类设定的一系列基本原则去工作——至于都有哪些原则,看过《终结者》的人应该都记得。

以上三点正是人工智能的弊端,但它们并非无法克服。这两位专家希望科技业界和学界在发展人工智能技术的同时,牢记它的弊端,在任何时候保持警惕,在构建系统的时候千万保障软件的稳定性和安全性。因为,总有一天,人类的性命安危会被交到人工智能系统手里,在那发生之前,研究者必须要保证,人工智能给人们带来的是安,而不是危……

三种观点,你同意哪一种?

 

图片来源:Shutterstock、Getty Image、虎嗅、新浪科技、Wikipedia

相关阅读:

     福特在硅谷招兵买马,甚至挖来苹果员工,就是为了这6个神秘项目

     The BIG Talk 开年第一场就来硅谷,这次谈些什么?

     百度CarLife来了,百度汽车会有吗?

     百度:Java的事情是因为和甲骨文战略合作,不是“捆绑”是“推荐”

相关 [人工智能 听听] 推荐:

我们该担心“可怕”的人工智能吗?你得听听不同看法

- - PingWest品玩
用通俗的话来解释,它是用计算机系统,通过海量的数据和强大的运算能力来模拟人类思维的过程. 听上去,人工智能应该是帮助电脑变得更聪明,好让聪明的电脑帮助人类的一门学科——至少很多人工智能学界和商业公司的人是这样认为的……. 不过并非所有人都认为聪明的电脑只会帮助人类. 因为对于很多人来说,他们头脑中的人工智能,往往来自于科幻电影,是《Her》里面的萨曼莎,或是《终结者》里面的终结者——人工智能被打上了阴险、欺骗和替代人类、奴役人类的标签.

人工智能技术新进展

- - 生命奥秘
新的计算机人脑模型可以模拟更加复杂的人类行为. 人类的大脑是一个高度复杂的器官,在众多对人类大脑的研究工作当中就包括了从分子水平到人类行为活动水平等多个层面采集大脑相关信息的工作. 这种超大范围的研究方式很有可能会让大脑研究走向专业不断细化的发展方向,这种趋势虽然有利于大脑研究的不断深化,可是同时也会带来知识碎片化的结果.

由人工智能管理的港铁

- - Solidot
港铁公司运营香港地铁跻身全世界最出色地铁系统之列,它的准时抵达记录高达99.9%,超过了伦敦和纽约地铁. 数百公里长的繁忙地铁系统需要大量人力维护,港铁公司平均每周有多达1万人执行2600项维护工作,工人们工作都是提前规划好的,由人工智能进行管理. 港铁公司计划将人工智能推广到它在其它城市运营的地铁系统,其中北京有可能第一个采用.

[微言]人工智能有多可怕?

- - 海德沙龙(HeadSalon)
@whigzhou: 花了两个多小时思考强人工智能引出的问题,得出的结论是:相信陪审团. 然后发现,这不就是 我去年得出过的结论嘛~哈. 不过,其间经历的逻辑链条那是相当漫长,而且有了一些新想法,容我慢慢道来. @whigzhou: 1)强人工智能很快(也就是几十年内)会出现;2)强AI的出现会让世界很不一样,但并不像有些人所想象的#那么#不一样;3)其实,“只有一小撮人(或组织)有能力做一些绝大多数人做不到、甚至完全无法理解的事情”——这早就不是什么新鲜事了.

注意:人工智能非你所想!

- - 译言最新精选
译者: 果果向前冲 原文地址: gizmodo.com. 艾萨克·阿西莫夫的机器人三定律还不足以控制人工智能. 上图是幻想插画家之父迈克尔·蕙兰为《曙光中的机器人》设计的封面. 近20年前“深蓝”与盖里·卡斯帕罗夫对战象棋获胜一事被誉为史上最具意义的机器智能测试. 时至今日,谷歌的“阿法狗”与国手李世石在围棋锦标赛中决一胜负,对决前三局两次告捷,表明多年来人工智能经历了显著进化.

恰到好处的人工智能

- - 可能吧
技术不应该给用户带来使用难度,而是提高效率,并恰到好处地提供帮助. 这是我在使用 Google 智能音箱 Google Home 之后的总结. 智能、AI,是今年创投圈的关键词. 如果你在京东、淘宝上搜索各种家电,多多少少这些产品都会说自己是「智能」的,到底什么是智能. 把安卓系统塞到硬件里,这个硬件是不是就是智能了.

2017年人工智能研究报告

- - 互联网数据中心-199IT
81%的IT公司正在或者计划投资人工智能(AI). Cowen预测人工智能将会将人类的生产力提升到一个新的水平,而微软会冲在最前面. 数字化市场或市场自动化、Salesforce自动化(CRM)和数据分析将成为人工智能最为成熟的三大应用领域. 据angel.co的数据显示,目前有2200多家人工智能初创公司,其中超过50%的初创公司是在最近两年成立的.

人工智能碰上人工智能:两个机器人的爆笑对话

- 地安门城管 - cnBeta.COM
大家都听说过判断人工智能(AI)的图灵测试吧. 或者都和一些聊天机器人说过话吧. 不过那只是人与机器人之间的故事. 如果两个机器人放在一起会发生什么事呢. 其实这是一个名为Cleverbot(聪明机器人)的两份复制品,彼此是完全相同的,为了便于识别而分别做成女性和男性,但依然显示了不同的“人格”,其中男性比较单纯,女性则有些狡猾.

[小红猪]算法:人工智能的新曙光

- roc - 科学松鼠会
译者:DLM (Miller),Mr. 翻译组合介绍:DLM, 80后业余科学小野人,流连 New Scientist, National Geography,Economist,接收杂七杂八的信息. 失业期间偶遇松鼠会小红猪,便想停下来学着剥一下“果壳”. YX D,来自火星的地球科学怪人. 原文地址:I, algorithm: A new dawn for artificial intelligence.

人工智能、中餐大厨、中医与基金经理

- 10 - 投资,路漫漫、路慢慢
今天在研究量化金融时,发现了一些有趣的关系. 1.人工智能的发展路漫漫,6岁儿童的智商与推理判断能力已经相当不简单了,电脑已经无法模拟并超越儿童的思维. 但电脑在特定领域、特别是在有限范围内的智慧可以很高(比如在国际象棋、中国象棋方面). 对短期以随机漫步为特点的股市,电脑模拟的智能几乎无能为力. 杰出的量化基金产品主要是其背后的基金经理优秀,而非模型优秀.