返回 登录
0

Google Deepmind的自杀开关研究或缓解人工智能恐慌

很多人被科幻电影中描述的机器人统治世界的暗示吓到了,现在,Google的一项研究可能会缓解人们的这种恐惧。

Google的DeepMind是伦敦的一家人工智能公司,于2014年被Google收购。现在,DeepMind正在研究机器人和人工智能的自杀系统。

这个想法来自于,如果未来机器人可以控制自己的启动按钮,那么人类就需要更高优先级的控制权限。

“如果一个机器是在人类的实时监控下进行操作的,那么它可能会需要一个红色按钮,可以随时停机,以免它进行危险的操作。”机器智能研究协会的研究者发布的一篇论文称,“然而,如果具有学习的能力机器从长远角度学会了组织这种停机,比如使红色按钮失效,这可不是闹着玩的。”

这篇论文的作者是Google Deep Mind的研究员Laurent Orseau和英国牛津大学人类未来研究机构的研究员Stuart Armstrong。

研究者们试图找出一种方法,来使机器避免学会人们的操作,从源头上阻止它们。

鉴于目前公众对人工智能的恐慌,这对研究者来说是有趣而且重要的一步。

很多人被有关机器人的电影潜移默化的影响了,比如《2001: A Space Odyssey》, 《The Terminator》, 《I, Robot》和电视剧《Battlestar Galactica》。他们认为未来人类可能变成机器人的奴隶。

这并不是一个美好的畅想,而且这让包括高科技企业家Elon Mush和著名的物理学家Steven Hawking的很多人对等待人类的将是怎样一个未来感到不安。

霍金的担忧很长远,他说:“人工智能的快速发展也就是人类的末日。”

Google的自杀开关不仅仅是平息这种恐慌的一项技术,而且时机也刚刚好。

“人工智能和自主机器的架构正在发展,这个时候进行这个研究恰到好处。”Patrick Moorhead,Moor Insights & Strategy的一个分析员说。“就好像设计一个汽车,只有在后来才会设计ABS和刹车系统。自杀开关需要设计到整个系统中去,不然,就会存在可能会机器绕过的安全漏洞。”

Moorhead拒绝谈自己是否担忧具有人工智能的机器,但是他说,很支持研发一个安全的红色按钮。

“如果一个AI系统没有自杀开关,”他说,“那么就好像设计了一个高速火车,却没有刹车系统。”

独立分析员Jeff Kagan说,DeepMind的研究很有价值。对于一个总是先开发技术然后再去考虑后果的行业来说,这次时机把握的很好。

“虽然我们现在还没有必要担忧是不是会被AI占领。”Kagan说。“但是我们做的总是想的快……我只希望,那些杰出的科学家能用他们的大脑保护好我们,而不是一味地开发最后吓我们一跳。”

The Gabriel Consulting Group的分析员Dan Olds说,Google将他们的一部分精力放在安全方面上,却是是一家负责任的公司。“我认为,鉴于现在机器人和人工智能领域的现状,Google在这方面做到了领导者的责任。”Olds说,“人工智能或机器人统治人类确实还离现在比较远,但是到底有多远呢?在接下来的5年里,可能我就会看到金融服务都交由AI管理,可能我会看到更多的设备完全由AI负责。这就是我们需要自杀开关的原因——防止某些事情偏离轨道,造成不可挽回的损失。”

原文:Google DeepMind’s kill switch research may ease A.I. fears
作者:Sharon Gaudin
翻译:赖信涛
责编:钱曙光

评论