Google研究人员提出防止机器人造反的方法

标签: google 研究 机器人 | 发表时间:2016-06-05 10:20 | 作者:pigsrollaroundinthem
分享到:
出处:http://www.solidot.org
无数的科幻电影和小说描绘了产生自我意识机器人的起义以及随后的人类的灭绝。今天的机器人距离产生自我意识还很遥远,但对于越来越依赖于人工智能的现代社会,我们至少需要一些措施以防止人工智能工作异常。Google Deep Mind团队和牛津大学的研究人员发表了一篇论文《Safely Interruptible Agents》(PDF)就描述了这样一个机制。研究人员指出,在复杂环境下工作的AI(或叫强化学习代理)的行为表现不可能一直保持最佳,在人类监管下的AI可能需要操作员按下一个红色按钮防止AI继续执行有害的动作,从而进入到安全状况下。但AI可能会学习绕过这种人为的中断,比如关闭红色按钮。这篇论文探讨了一种方法确保AI不会寻求或阻止人类发出的中断命令。

相关 [google 研究 机器人] 推荐:

Google研究人员提出防止机器人造反的方法

- - Solidot
无数的科幻电影和小说描绘了产生自我意识机器人的起义以及随后的人类的灭绝. 今天的机器人距离产生自我意识还很遥远,但对于越来越依赖于人工智能的现代社会,我们至少需要一些措施以防止人工智能工作异常. Google Deep Mind团队和牛津大学的研究人员发表了一篇论文《Safely Interruptible Agents》(PDF)就描述了这样一个机制.

广告系统研究——Google AdMob

- - 牛国柱
前言:对产品的研究,并不仅仅是看产品是如何设计的,更多的时候是要看产品是如何适可而止的. 在研究的过程中,如同和该产品的产品经理切磋一样,双方你来我往、你一言我一句,互相讲述着自己对产品设计、对用户体验以及对产品功能的理解. 与高手过招,方能醍醐灌顶,功力日益精进. 因此对广告系统的研究,第一站我们就看谷歌的AdMob系统.

有感Google的混合研究方法

- - Tim[后端技术]
对于一个长期在研发领域的人来说,经常需要思考研发的意义、工程与研究的关系、产品型的公司应当做何种程度的研究等问题. 理想情况下,我们期望每一项研发工作都能得到组织、同事以及社区的高度认可. 因此不管你处于工程领域还是研究领域,工程与研究的关系会让你不断思考甚至困扰. 最近看到的Google’s hybrid Approach to research ( English 中文) 一文或许会让你豁然开朗.

Google要給你錢參與Google+的研究,你要參加嗎?

- 幻幽 or A書 - TechOrange
Google 顯然真的是認真的,這回還準備大舉發放獎金,讓使用者幫忙改善 Google+. 只要願意參加研究,並填妥資料,Google 就會送你價值 $ 75 美金的 American Express 禮金. 這個研究會在這個月或下個月進行,只要符合以下條件的朋友,都有可能被 Google 選中,還不快上.

可以回答你的问题的 Google 轱辘 Google Talk Guru 机器人

- Jesse - 谷奥——探寻谷歌的奥秘
Google Talk Guru 是 Google 实验室的最新产品,这是一个 Gtalk 的 bot (机器人),Guru 一词貌似在计算机圈内非常常用,有大师,专家等意思. 要使用这个 bot 非常简单,直接将 guru@googlelabs.com 这个用户添加到你的 Gtalk 联系人列表,然后就可以开始发问了,目前支持的指令有:.

Google研究称C++是性能最优越的语言

- ashuai - Solidot
Google发表了一篇研究论文(PDF),声称C++是目前市场上性能最好的程序语言. 搜索巨人分别用C++、Java、Scala和其发明的Go语言实现一种压缩算法,然后测试其性能. 结果显示,C++远胜其它三种语言. 虽然C++性能最优越,但Google同时指出它实现起来太复杂,超出了普通程序员的水平,而Java则“最容易实现”.

研究表明:Google+在家长中更受欢迎

- 洞箫 - cnBeta.COM
数据分析机构Hitwise分析了Google+开放后六个星期的早期用户群,结果十分出乎意料. 分析表明,因为受邀请注册的影响,中年,住在郊区的家长用户群比跟他们孩子一般大的学生用户群更多,达到2.9%,而学生用户只有0.7%.

微软研究人员:Google+实名政策是滥用权力

- Aragorn - cnBeta.COM
一位微软研究人员强烈抨击谷歌为Google+服务制定的严格的“实名制”政策. 谷歌已经删除了使用假冒名字或者化名的Google+账户. Google+要求其2500万用户填写谷歌用户简介. 用户填写在公共网页上的内容有助于连接和找到在现实世界中人.

研究:大學生其實跟 Google 不太熟

- tinda - TechOrange
一項由美國伊利諾伊州 5 間大學聯手進行、為期 2 年的學生線上搜尋行為民族誌研究報告出爐,研究顯示雖然 Google 是最常被提及的線上工具,大部份學生都表示會使用 Google 資料庫進行資料搜尋,但研究結果同時也指出,大學生們似乎不太懂得該如何使用 Google. 研究一共深度訪談了 156 名學生,提及 Google 的頻率明顯高於其他資料搜尋工具,但是在與研究員合作進行參與觀察的 60 位學生中,研究員卻發現他們使用 Google 的方式不太有效率,意思就是說,研究發現雖然大學生們經常使用 Google,但從他們的使用行為中卻觀察出不太擅長的現象.

Google的案例研究:开发者是怎么搜代码的?

- - 36氪
既然有现成的,何必重新发明轮子呢. 在代码库日益丰富、搜索功能越来越高级的背景下,代码搜索已经成为一项关键的软件开发活动,而且实际上也是一项非常有用的技能. 那开发者一般都是怎么去搜索代码的呢. 针对这个问题,Google特地在内部进行了一项案例研究. 研究采用了调查和日志分析相结合的办法,得出了一些有趣的结果.