OpenAI CEO 阿尔特曼最新访谈:越多人参与AI,才能更好的控制AI
在人工智能飞速发展的世界里,关于未来的讨论往往集中在所谓的 "人工通用智能 "(artificial general intelligence)上。在这个阶段,人工智能将有能力完成人类能够完成的任何工作,而且只会做得更好。近期与 OpenAI 的首席执行官山姆·阿尔特曼(Sam Altman)和首席技术官米拉·穆拉蒂(Mira Murati)的对话谈论了关于“AGI 的潜在收益和风险”的话题。
以下是他们谈话的节选:
AGI 将是人类迄今为止创造出的最好工具
问:为什么AGI是目标?
山姆·阿尔特曼:在未来十年或几十年里,对改善人类生存条件最重要的两样东西,一是丰富和廉价的智能:越强大、越通用、越智能越好。我认为这就是 AG。然后二是丰富而廉价的能源。如果我们能在世界上完成这两件事,那么几乎很难想象我们还能做多少其他事情。我们坚信,只要给人们提供更好的工具,他们就会做出让你惊讶的事情。我认为,AGI 将是人类迄今为止创造出的最好工具。有了它,我们就能解决各种问题。我们将能以新的、创造性的方式表达自己。我们将为彼此、为自己、为世界、为这个正在展开的人类故事创造出不可思议的东西。这是新的,任何新事物都伴随着变化,而变化并不总是一帆风顺的。
问:它什么时候会出现,我们怎么知道它出现了?
米拉·穆拉蒂:可能在未来十年,但这有点棘手。我们经常谈论智能,谈论它有多智能,谈论它是否有意识、有知觉等等,但这些说法并不完全正确。因为它们定义了我们自己的智能,而我们正在构建的东西略有不同。
问:有些人对你们用来训练某些模型的一些数据并不满意。比如:好莱坞,出版商。当您在做之后的模型时,您围绕数据做了哪些事情?
山姆·阿尔特曼:首先,我们显然只能使用其他人允许的数据。挑战之一是,不同类型的数据拥有截然不同的所有者。因此,我们正在尝试很多东西。我们正在建立多样的合作关系,我们认为,就像任何一个新领域一样,我们会找到一些东西,成为新的标准。此外,随着这些模型越来越智能,能力越来越强,我们需要的训练数据也会越来越少。我认为,由于我们正在取得的技术进步,有关数据的对话以及所有这一切的形态都将发生转变。
问:出版商们都想花钱买数据。这场竞赛的未来是谁能为最好的数据支付最多的钱吗?
山姆·阿尔特曼:不,这正是我想说的。人们真正喜欢 GPT 模型的地方,从根本上说,并不在于它知道特定的知识。有更好的方法可以找到这些知识。而是它有这种幼年推理能力,而且会越来越好。这才是它的真正意义所在。
阿尔特曼:我不希望AI跟人类保持亲密关系
问:未来我们是否会与这类机器人建立深厚的关系?
米拉·穆拉蒂:这将是一种重要的关系。因为我们正在构建的系统将无处不在:在你的家中、在你的教育环境中、在你的工作环境中,甚至在你娱乐的时候。这就是为什么把它做好实际上非常重要。我们必须小心谨慎地设计这种互动,使其最终能够提升体验、带来乐趣、提高工作效率并增强创造力。我们还希望确保,在产品方面,我们对这些系统有一种掌控感,即我们可以引导它们做我们希望它们做的事情,而且输出是可靠的。随着它掌握更多关于你的喜好、你喜欢的东西、你做的事情的信息,以及模型能力的提高,它将变得更加个性化。而且不只是一个系统。您可以拥有许多针对特定领域和任务的个性化系统。
问:责任重大。你将控制人们的朋友,也许还会成为人们的恋人。你如何看待这种控制?
山姆·阿尔特曼:我们不会是这里唯一的参与者。会有很多人参与进来。因此,我们可以在技术发展的轨迹上 "推波助澜"。但是:a)我们真的认为,决定权属于人类,属于整个社会;b) 我们将是在这里构建复杂系统的众多参与者之一。会有提供不同服务的竞争产品,会有不同类型的社会拥护者和反对者,还会有监管方面的问题。我个人对未来的这一愿景深表忧虑,因为在未来,每个人都会与人工智能朋友走得很近,甚至比人类朋友走得更近。我个人并不希望如此。我认为其他人会想要那样,有些人会建造那样的东西。如果那是世界想要的,而且我们认为有意义,我们就会去做。
在实验室中不会诞生安全的AI
问:我们现在已经有了简单的聊天机器人。我们消除现在到处弥漫的对人工智能的恐惧?
山姆·阿尔特曼:不需要太多的想象力,就能想到值得高度警惕的情况。再说一遍,我们之所以这样做,是因为我们对巨大的发展前景和令人难以置信的积极影响感到非常兴奋。如果不为人类追求这些,那将是道德上的失败。但我们必须正视--这也发生在许多其他技术上--随之而来的弊端。这意味着你要考虑风险。你会努力衡量自己的能力,并尝试以一种能够降低风险的方式来构建自己的技术。然后,当你说 "嘿,这是一种新的安全技术 "时,你就会把它提供给其他人。
新闻来源:GenAI新世界 作者:大模型机动组
#chatgpt##chatgpt未来已来##ChatGPT官方[超话]# https://t.cn/R2WxsCs
在人工智能飞速发展的世界里,关于未来的讨论往往集中在所谓的 "人工通用智能 "(artificial general intelligence)上。在这个阶段,人工智能将有能力完成人类能够完成的任何工作,而且只会做得更好。近期与 OpenAI 的首席执行官山姆·阿尔特曼(Sam Altman)和首席技术官米拉·穆拉蒂(Mira Murati)的对话谈论了关于“AGI 的潜在收益和风险”的话题。
以下是他们谈话的节选:
AGI 将是人类迄今为止创造出的最好工具
问:为什么AGI是目标?
山姆·阿尔特曼:在未来十年或几十年里,对改善人类生存条件最重要的两样东西,一是丰富和廉价的智能:越强大、越通用、越智能越好。我认为这就是 AG。然后二是丰富而廉价的能源。如果我们能在世界上完成这两件事,那么几乎很难想象我们还能做多少其他事情。我们坚信,只要给人们提供更好的工具,他们就会做出让你惊讶的事情。我认为,AGI 将是人类迄今为止创造出的最好工具。有了它,我们就能解决各种问题。我们将能以新的、创造性的方式表达自己。我们将为彼此、为自己、为世界、为这个正在展开的人类故事创造出不可思议的东西。这是新的,任何新事物都伴随着变化,而变化并不总是一帆风顺的。
问:它什么时候会出现,我们怎么知道它出现了?
米拉·穆拉蒂:可能在未来十年,但这有点棘手。我们经常谈论智能,谈论它有多智能,谈论它是否有意识、有知觉等等,但这些说法并不完全正确。因为它们定义了我们自己的智能,而我们正在构建的东西略有不同。
问:有些人对你们用来训练某些模型的一些数据并不满意。比如:好莱坞,出版商。当您在做之后的模型时,您围绕数据做了哪些事情?
山姆·阿尔特曼:首先,我们显然只能使用其他人允许的数据。挑战之一是,不同类型的数据拥有截然不同的所有者。因此,我们正在尝试很多东西。我们正在建立多样的合作关系,我们认为,就像任何一个新领域一样,我们会找到一些东西,成为新的标准。此外,随着这些模型越来越智能,能力越来越强,我们需要的训练数据也会越来越少。我认为,由于我们正在取得的技术进步,有关数据的对话以及所有这一切的形态都将发生转变。
问:出版商们都想花钱买数据。这场竞赛的未来是谁能为最好的数据支付最多的钱吗?
山姆·阿尔特曼:不,这正是我想说的。人们真正喜欢 GPT 模型的地方,从根本上说,并不在于它知道特定的知识。有更好的方法可以找到这些知识。而是它有这种幼年推理能力,而且会越来越好。这才是它的真正意义所在。
阿尔特曼:我不希望AI跟人类保持亲密关系
问:未来我们是否会与这类机器人建立深厚的关系?
米拉·穆拉蒂:这将是一种重要的关系。因为我们正在构建的系统将无处不在:在你的家中、在你的教育环境中、在你的工作环境中,甚至在你娱乐的时候。这就是为什么把它做好实际上非常重要。我们必须小心谨慎地设计这种互动,使其最终能够提升体验、带来乐趣、提高工作效率并增强创造力。我们还希望确保,在产品方面,我们对这些系统有一种掌控感,即我们可以引导它们做我们希望它们做的事情,而且输出是可靠的。随着它掌握更多关于你的喜好、你喜欢的东西、你做的事情的信息,以及模型能力的提高,它将变得更加个性化。而且不只是一个系统。您可以拥有许多针对特定领域和任务的个性化系统。
问:责任重大。你将控制人们的朋友,也许还会成为人们的恋人。你如何看待这种控制?
山姆·阿尔特曼:我们不会是这里唯一的参与者。会有很多人参与进来。因此,我们可以在技术发展的轨迹上 "推波助澜"。但是:a)我们真的认为,决定权属于人类,属于整个社会;b) 我们将是在这里构建复杂系统的众多参与者之一。会有提供不同服务的竞争产品,会有不同类型的社会拥护者和反对者,还会有监管方面的问题。我个人对未来的这一愿景深表忧虑,因为在未来,每个人都会与人工智能朋友走得很近,甚至比人类朋友走得更近。我个人并不希望如此。我认为其他人会想要那样,有些人会建造那样的东西。如果那是世界想要的,而且我们认为有意义,我们就会去做。
在实验室中不会诞生安全的AI
问:我们现在已经有了简单的聊天机器人。我们消除现在到处弥漫的对人工智能的恐惧?
山姆·阿尔特曼:不需要太多的想象力,就能想到值得高度警惕的情况。再说一遍,我们之所以这样做,是因为我们对巨大的发展前景和令人难以置信的积极影响感到非常兴奋。如果不为人类追求这些,那将是道德上的失败。但我们必须正视--这也发生在许多其他技术上--随之而来的弊端。这意味着你要考虑风险。你会努力衡量自己的能力,并尝试以一种能够降低风险的方式来构建自己的技术。然后,当你说 "嘿,这是一种新的安全技术 "时,你就会把它提供给其他人。
新闻来源:GenAI新世界 作者:大模型机动组
#chatgpt##chatgpt未来已来##ChatGPT官方[超话]# https://t.cn/R2WxsCs
4th Anniversary !
❤️积攒好久的照片分享出来了!小董七夕就想发都被我摁住了[偷笑]
❤️每年拍照纪念还是很有意义的~今年多了只小百万现在都有照片中两个大啦
❤️仔细想想,小董同学还真是把大学四年全都给了我哈哈哈哈
❤️出去玩完回来又偶遇小区因为一次遛狗认识的邻居,第一次看到我俩一起,爷爷奶奶一直说我们相像又般配,真的很暖心呢~希望他们健健康康
❤️在一起这么久也不全是外表看到的那么完美,有脾气有争吵,也有不满和不甘,还好的是我们这几年的磨合是共同的努力,都在成长,感情这个东西真的是相互的,我俩在一起这么久还有一点就是都比较容易知足吧,相信我们一起努力都会越来越好的~
❤️谢谢希望我们幸福的朋友!我最希望的就是我的幸福能够传递给你们!每个人都值得爱和被爱!希望我们都能同时拥有爱情和“面包”!希望我们都能早日拥有自己真正的“家”!
❤️积攒好久的照片分享出来了!小董七夕就想发都被我摁住了[偷笑]
❤️每年拍照纪念还是很有意义的~今年多了只小百万现在都有照片中两个大啦
❤️仔细想想,小董同学还真是把大学四年全都给了我哈哈哈哈
❤️出去玩完回来又偶遇小区因为一次遛狗认识的邻居,第一次看到我俩一起,爷爷奶奶一直说我们相像又般配,真的很暖心呢~希望他们健健康康
❤️在一起这么久也不全是外表看到的那么完美,有脾气有争吵,也有不满和不甘,还好的是我们这几年的磨合是共同的努力,都在成长,感情这个东西真的是相互的,我俩在一起这么久还有一点就是都比较容易知足吧,相信我们一起努力都会越来越好的~
❤️谢谢希望我们幸福的朋友!我最希望的就是我的幸福能够传递给你们!每个人都值得爱和被爱!希望我们都能同时拥有爱情和“面包”!希望我们都能早日拥有自己真正的“家”!
我看你什么时候家破人亡,小妹妹。骂不过就拉黑实在是太可怜了,你这样子活像个没有教养的小孩,怎么这么可怜。随意臆测别人的家庭情况和学业情况,我看就只能是你太可怜了所以把自己的情况套在别人身上了吧?臆症太重了这高低得入院治疗一下啊!你为什么虚荣呢?因为你除了这个没有可炫耀的东西了,对不对?你明确的知道你的家庭不是靠你努力得来的而是你运气好,然后呢你又从来没有努力得到过什么东西。所以你就只能把你这一点点的幸运成倍的放大在那些未曾拥有的人面前,以此来满足一点你可怜的虚荣心。那只能说明一件事:你没有其他可炫耀的东西了。你除了你的家庭一无所有,那等你失去你的家庭呢?没事,你早晚要家破人亡的,你从来不努力,好吃懒做,想成功又懒得付出,想索取又不想奉献,你觉得你现在什么都有,那我只能告诉你你一无所有。你身无特长,每天生活无聊,但是你父母又溺爱你——或者说根本不管你,他们不管你,这也不难解释为什么你是这样子一个没家教的东西了。你想反驳我,你根本反驳不了我。你痛恨你的家乡,你讨厌山东,你向往大城市但是你的成绩太差了考不到这里,你虚荣心太强但是你没什么可炫耀的东西,除了你的原生家庭。你就只能在经历苦难的人面前显摆一下自己,来展示一件事
“我不一样”
@一只螲蟷
这么一看,你真的太可怜了
“我不一样”
@一只螲蟷
这么一看,你真的太可怜了
✋热门推荐