【Google和牛津大学新论文称人工智能的威胁比以前认为的要大】
牛津大学和Google Deepmind的研究人员在一篇新论文中分享了一个令人心寒的警告。这篇论文上个月发表在《AI杂志》上,声称人工智能的威胁比以前认为的要大。事实上,它是如此之大,以至于人工智能很可能有一天会崛起并消灭人类。
人工智能令人印象深刻。它可以在电影中模拟瓦尔·基尔默的声音,并多次帮助研究人员解决复杂问题。不过现在,研究人员提出,人工智能的威胁比我们想象的要大。
研究人员在8月底发表了他们的研究结果。根据该论文,人工智能的威胁可能会根据研究人员确定的一系列条件而改变。这也不是研究人员第一次将人工智能视为一种可能的威胁。但这篇新论文耐人寻味,因为它所研究的假设是合理的。
在这些假设中,研究人员认为,“人工智能干预提供奖励会产生非常糟糕的后果,”该论文的作者之一Michael Cohen本月发推文说。Cohen说,研究人员确定的条件表明,出现威胁性结论的可能性比以前的任何出版物都要强。
此外,该团队表示,人工智能的威胁是建立在存在性灾难的基础上的。而且,这不仅是可能的,而且是非常可能的。Cohen和其他研究人员指出,最大的问题之一是,总是可以对一个问题投入更多的精力,使其达到人工智能所做的奖励的程度。因此,它可能使我们与机器产生矛盾。
“简而言之,”Cohen在推文中写道,“就是总是可以采用更多的能量来提高摄像机永远看到数字1的概率,但是我们需要一些能量来种植食物。这使我们不可避免地与一个更先进的代理竞争。考虑到这一点,听起来似乎人工智能的威胁可能会根据它的教学方式而改变。”
Cohen在这里提到的数字是基于一个测试,迫使人工智能代理达到某个数字。而且,一旦它被证明有办法做到这一点,它可以使用更多的能量来优化达到这个目标。这是一个耐人寻味的命题,也说明了为什么这么多人担心人工智能的威胁。
很明显,论文中提供的例子并不是唯一可能的结果。而且,也许我们可以找到一种方法,让机器受到控制。但是,这项新研究确实提出了一些问题,我们到底要在多大程度上信任人工智能,以及如果发生生存灾难,我们可以如何控制它。
![](https://wx1.sinaimg.cn/large/006vBnXnly1h68u23lr6qj30go095js8.jpg)
牛津大学和Google Deepmind的研究人员在一篇新论文中分享了一个令人心寒的警告。这篇论文上个月发表在《AI杂志》上,声称人工智能的威胁比以前认为的要大。事实上,它是如此之大,以至于人工智能很可能有一天会崛起并消灭人类。
人工智能令人印象深刻。它可以在电影中模拟瓦尔·基尔默的声音,并多次帮助研究人员解决复杂问题。不过现在,研究人员提出,人工智能的威胁比我们想象的要大。
研究人员在8月底发表了他们的研究结果。根据该论文,人工智能的威胁可能会根据研究人员确定的一系列条件而改变。这也不是研究人员第一次将人工智能视为一种可能的威胁。但这篇新论文耐人寻味,因为它所研究的假设是合理的。
在这些假设中,研究人员认为,“人工智能干预提供奖励会产生非常糟糕的后果,”该论文的作者之一Michael Cohen本月发推文说。Cohen说,研究人员确定的条件表明,出现威胁性结论的可能性比以前的任何出版物都要强。
此外,该团队表示,人工智能的威胁是建立在存在性灾难的基础上的。而且,这不仅是可能的,而且是非常可能的。Cohen和其他研究人员指出,最大的问题之一是,总是可以对一个问题投入更多的精力,使其达到人工智能所做的奖励的程度。因此,它可能使我们与机器产生矛盾。
“简而言之,”Cohen在推文中写道,“就是总是可以采用更多的能量来提高摄像机永远看到数字1的概率,但是我们需要一些能量来种植食物。这使我们不可避免地与一个更先进的代理竞争。考虑到这一点,听起来似乎人工智能的威胁可能会根据它的教学方式而改变。”
Cohen在这里提到的数字是基于一个测试,迫使人工智能代理达到某个数字。而且,一旦它被证明有办法做到这一点,它可以使用更多的能量来优化达到这个目标。这是一个耐人寻味的命题,也说明了为什么这么多人担心人工智能的威胁。
很明显,论文中提供的例子并不是唯一可能的结果。而且,也许我们可以找到一种方法,让机器受到控制。但是,这项新研究确实提出了一些问题,我们到底要在多大程度上信任人工智能,以及如果发生生存灾难,我们可以如何控制它。
![](https://wx1.sinaimg.cn/large/006vBnXnly1h68u23lr6qj30go095js8.jpg)
杨幂和刘恺威没能走到最后的原因已经找到了!
排练的时候,Mike想和刘恺威在贝司区和声,黄奕达提出异议:别管刘恺威了,别抢戏了。
于是回到宿舍后,刘恺威特意找到了黄奕达,对“抢戏”二字发表了自己的看法。在他看来,他知道黄奕达是想为球队做好事,但同时,他听了这话,也很担心。迈克会不会觉得黄奕达在针对他?
黄奕达一听,也觉得有道理,所以麦克回到宿舍没多久,就赶紧主动向他道歉,表示自己刚才说的话有些激动。
麦克明白了一点后,连忙说道:你想太多了。在后台采访中,他也直言:真的不会影响我的心情,因为大部分我都不懂。
这样一来,刘恺威确实用心了,但也有些尴尬。毕竟,他以为别人会在意,实则不放心,这也暴露了刘恺威的本色:敏感。
而杨幂也不是一个很体贴敏感的人。要说镜头下的她的性格,大致可以总结为三点:无忧无虑、注重自己的舒适、爱别人。
她的伟大之处在于,无论与男孩还是女孩在一起,她都经常称自己为兄弟或最好的朋友。
这样一来,刘恺威和杨幂就真的不一样了。
![](https://wx4.sinaimg.cn/large/921dcc6cgy1h69higvqqgj20go0b40wo.jpg)
排练的时候,Mike想和刘恺威在贝司区和声,黄奕达提出异议:别管刘恺威了,别抢戏了。
于是回到宿舍后,刘恺威特意找到了黄奕达,对“抢戏”二字发表了自己的看法。在他看来,他知道黄奕达是想为球队做好事,但同时,他听了这话,也很担心。迈克会不会觉得黄奕达在针对他?
黄奕达一听,也觉得有道理,所以麦克回到宿舍没多久,就赶紧主动向他道歉,表示自己刚才说的话有些激动。
麦克明白了一点后,连忙说道:你想太多了。在后台采访中,他也直言:真的不会影响我的心情,因为大部分我都不懂。
这样一来,刘恺威确实用心了,但也有些尴尬。毕竟,他以为别人会在意,实则不放心,这也暴露了刘恺威的本色:敏感。
而杨幂也不是一个很体贴敏感的人。要说镜头下的她的性格,大致可以总结为三点:无忧无虑、注重自己的舒适、爱别人。
她的伟大之处在于,无论与男孩还是女孩在一起,她都经常称自己为兄弟或最好的朋友。
这样一来,刘恺威和杨幂就真的不一样了。
![](https://wx4.sinaimg.cn/large/921dcc6cgy1h69higvqqgj20go0b40wo.jpg)
很好的eason子
我其实夜班自己一个人的话很慌
可是eason会帮我 会等我问完他没问题了再睡(也可能他在玩游戏)
但是我问他 怎么还没睡
他说 不知道
然后他说 剩下的我搞得定吗
[悲伤]
而且帮我说销售 他很少会发表自己的主见 对这个酒店其他部门的看法 很少很少 这是其中一次
我今早跟爱德华说,爱德华表示:晚上销售也不上班了 就不会跟着那些搭建的一起 所以才要我们去 总之就是也没表示这个很怎样 反而说这是正常的意思。(我知道确实是正常的 我工作的一部分
但是还是希望有人站在我这边啊
比如eason
![](https://wx2.sinaimg.cn/large/0085vlOPgy1h69f65lyzsj30n01dsk9r.jpg)
我其实夜班自己一个人的话很慌
可是eason会帮我 会等我问完他没问题了再睡(也可能他在玩游戏)
但是我问他 怎么还没睡
他说 不知道
然后他说 剩下的我搞得定吗
[悲伤]
而且帮我说销售 他很少会发表自己的主见 对这个酒店其他部门的看法 很少很少 这是其中一次
我今早跟爱德华说,爱德华表示:晚上销售也不上班了 就不会跟着那些搭建的一起 所以才要我们去 总之就是也没表示这个很怎样 反而说这是正常的意思。(我知道确实是正常的 我工作的一部分
但是还是希望有人站在我这边啊
比如eason
![](https://wx2.sinaimg.cn/large/0085vlOPgy1h69f65lyzsj30n01dsk9r.jpg)
✋热门推荐