OpenAI CEO 阿尔特曼最新访谈:越多人参与AI,才能更好的控制AI
在人工智能飞速发展的世界里,关于未来的讨论往往集中在所谓的 "人工通用智能 "(artificial general intelligence)上。在这个阶段,人工智能将有能力完成人类能够完成的任何工作,而且只会做得更好。近期与 OpenAI 的首席执行官山姆·阿尔特曼(Sam Altman)和首席技术官米拉·穆拉蒂(Mira Murati)的对话谈论了关于“AGI 的潜在收益和风险”的话题。
以下是他们谈话的节选:
AGI 将是人类迄今为止创造出的最好工具
问:为什么AGI是目标?
山姆·阿尔特曼:在未来十年或几十年里,对改善人类生存条件最重要的两样东西,一是丰富和廉价的智能:越强大、越通用、越智能越好。我认为这就是 AG。然后二是丰富而廉价的能源。如果我们能在世界上完成这两件事,那么几乎很难想象我们还能做多少其他事情。我们坚信,只要给人们提供更好的工具,他们就会做出让你惊讶的事情。我认为,AGI 将是人类迄今为止创造出的最好工具。有了它,我们就能解决各种问题。我们将能以新的、创造性的方式表达自己。我们将为彼此、为自己、为世界、为这个正在展开的人类故事创造出不可思议的东西。这是新的,任何新事物都伴随着变化,而变化并不总是一帆风顺的。
问:它什么时候会出现,我们怎么知道它出现了?
米拉·穆拉蒂:可能在未来十年,但这有点棘手。我们经常谈论智能,谈论它有多智能,谈论它是否有意识、有知觉等等,但这些说法并不完全正确。因为它们定义了我们自己的智能,而我们正在构建的东西略有不同。
问:有些人对你们用来训练某些模型的一些数据并不满意。比如:好莱坞,出版商。当您在做之后的模型时,您围绕数据做了哪些事情?
山姆·阿尔特曼:首先,我们显然只能使用其他人允许的数据。挑战之一是,不同类型的数据拥有截然不同的所有者。因此,我们正在尝试很多东西。我们正在建立多样的合作关系,我们认为,就像任何一个新领域一样,我们会找到一些东西,成为新的标准。此外,随着这些模型越来越智能,能力越来越强,我们需要的训练数据也会越来越少。我认为,由于我们正在取得的技术进步,有关数据的对话以及所有这一切的形态都将发生转变。
问:出版商们都想花钱买数据。这场竞赛的未来是谁能为最好的数据支付最多的钱吗?
山姆·阿尔特曼:不,这正是我想说的。人们真正喜欢 GPT 模型的地方,从根本上说,并不在于它知道特定的知识。有更好的方法可以找到这些知识。而是它有这种幼年推理能力,而且会越来越好。这才是它的真正意义所在。
阿尔特曼:我不希望AI跟人类保持亲密关系
问:未来我们是否会与这类机器人建立深厚的关系?
米拉·穆拉蒂:这将是一种重要的关系。因为我们正在构建的系统将无处不在:在你的家中、在你的教育环境中、在你的工作环境中,甚至在你娱乐的时候。这就是为什么把它做好实际上非常重要。我们必须小心谨慎地设计这种互动,使其最终能够提升体验、带来乐趣、提高工作效率并增强创造力。我们还希望确保,在产品方面,我们对这些系统有一种掌控感,即我们可以引导它们做我们希望它们做的事情,而且输出是可靠的。随着它掌握更多关于你的喜好、你喜欢的东西、你做的事情的信息,以及模型能力的提高,它将变得更加个性化。而且不只是一个系统。您可以拥有许多针对特定领域和任务的个性化系统。
问:责任重大。你将控制人们的朋友,也许还会成为人们的恋人。你如何看待这种控制?
山姆·阿尔特曼:我们不会是这里唯一的参与者。会有很多人参与进来。因此,我们可以在技术发展的轨迹上 "推波助澜"。但是:a)我们真的认为,决定权属于人类,属于整个社会;b) 我们将是在这里构建复杂系统的众多参与者之一。会有提供不同服务的竞争产品,会有不同类型的社会拥护者和反对者,还会有监管方面的问题。我个人对未来的这一愿景深表忧虑,因为在未来,每个人都会与人工智能朋友走得很近,甚至比人类朋友走得更近。我个人并不希望如此。我认为其他人会想要那样,有些人会建造那样的东西。如果那是世界想要的,而且我们认为有意义,我们就会去做。
在实验室中不会诞生安全的AI
问:我们现在已经有了简单的聊天机器人。我们消除现在到处弥漫的对人工智能的恐惧?
山姆·阿尔特曼:不需要太多的想象力,就能想到值得高度警惕的情况。再说一遍,我们之所以这样做,是因为我们对巨大的发展前景和令人难以置信的积极影响感到非常兴奋。如果不为人类追求这些,那将是道德上的失败。但我们必须正视--这也发生在许多其他技术上--随之而来的弊端。这意味着你要考虑风险。你会努力衡量自己的能力,并尝试以一种能够降低风险的方式来构建自己的技术。然后,当你说 "嘿,这是一种新的安全技术 "时,你就会把它提供给其他人。
新闻来源:GenAI新世界 作者:大模型机动组
#chatgpt##chatgpt未来已来##ChatGPT官方[超话]# https://t.cn/R2WxsCs
在人工智能飞速发展的世界里,关于未来的讨论往往集中在所谓的 "人工通用智能 "(artificial general intelligence)上。在这个阶段,人工智能将有能力完成人类能够完成的任何工作,而且只会做得更好。近期与 OpenAI 的首席执行官山姆·阿尔特曼(Sam Altman)和首席技术官米拉·穆拉蒂(Mira Murati)的对话谈论了关于“AGI 的潜在收益和风险”的话题。
以下是他们谈话的节选:
AGI 将是人类迄今为止创造出的最好工具
问:为什么AGI是目标?
山姆·阿尔特曼:在未来十年或几十年里,对改善人类生存条件最重要的两样东西,一是丰富和廉价的智能:越强大、越通用、越智能越好。我认为这就是 AG。然后二是丰富而廉价的能源。如果我们能在世界上完成这两件事,那么几乎很难想象我们还能做多少其他事情。我们坚信,只要给人们提供更好的工具,他们就会做出让你惊讶的事情。我认为,AGI 将是人类迄今为止创造出的最好工具。有了它,我们就能解决各种问题。我们将能以新的、创造性的方式表达自己。我们将为彼此、为自己、为世界、为这个正在展开的人类故事创造出不可思议的东西。这是新的,任何新事物都伴随着变化,而变化并不总是一帆风顺的。
问:它什么时候会出现,我们怎么知道它出现了?
米拉·穆拉蒂:可能在未来十年,但这有点棘手。我们经常谈论智能,谈论它有多智能,谈论它是否有意识、有知觉等等,但这些说法并不完全正确。因为它们定义了我们自己的智能,而我们正在构建的东西略有不同。
问:有些人对你们用来训练某些模型的一些数据并不满意。比如:好莱坞,出版商。当您在做之后的模型时,您围绕数据做了哪些事情?
山姆·阿尔特曼:首先,我们显然只能使用其他人允许的数据。挑战之一是,不同类型的数据拥有截然不同的所有者。因此,我们正在尝试很多东西。我们正在建立多样的合作关系,我们认为,就像任何一个新领域一样,我们会找到一些东西,成为新的标准。此外,随着这些模型越来越智能,能力越来越强,我们需要的训练数据也会越来越少。我认为,由于我们正在取得的技术进步,有关数据的对话以及所有这一切的形态都将发生转变。
问:出版商们都想花钱买数据。这场竞赛的未来是谁能为最好的数据支付最多的钱吗?
山姆·阿尔特曼:不,这正是我想说的。人们真正喜欢 GPT 模型的地方,从根本上说,并不在于它知道特定的知识。有更好的方法可以找到这些知识。而是它有这种幼年推理能力,而且会越来越好。这才是它的真正意义所在。
阿尔特曼:我不希望AI跟人类保持亲密关系
问:未来我们是否会与这类机器人建立深厚的关系?
米拉·穆拉蒂:这将是一种重要的关系。因为我们正在构建的系统将无处不在:在你的家中、在你的教育环境中、在你的工作环境中,甚至在你娱乐的时候。这就是为什么把它做好实际上非常重要。我们必须小心谨慎地设计这种互动,使其最终能够提升体验、带来乐趣、提高工作效率并增强创造力。我们还希望确保,在产品方面,我们对这些系统有一种掌控感,即我们可以引导它们做我们希望它们做的事情,而且输出是可靠的。随着它掌握更多关于你的喜好、你喜欢的东西、你做的事情的信息,以及模型能力的提高,它将变得更加个性化。而且不只是一个系统。您可以拥有许多针对特定领域和任务的个性化系统。
问:责任重大。你将控制人们的朋友,也许还会成为人们的恋人。你如何看待这种控制?
山姆·阿尔特曼:我们不会是这里唯一的参与者。会有很多人参与进来。因此,我们可以在技术发展的轨迹上 "推波助澜"。但是:a)我们真的认为,决定权属于人类,属于整个社会;b) 我们将是在这里构建复杂系统的众多参与者之一。会有提供不同服务的竞争产品,会有不同类型的社会拥护者和反对者,还会有监管方面的问题。我个人对未来的这一愿景深表忧虑,因为在未来,每个人都会与人工智能朋友走得很近,甚至比人类朋友走得更近。我个人并不希望如此。我认为其他人会想要那样,有些人会建造那样的东西。如果那是世界想要的,而且我们认为有意义,我们就会去做。
在实验室中不会诞生安全的AI
问:我们现在已经有了简单的聊天机器人。我们消除现在到处弥漫的对人工智能的恐惧?
山姆·阿尔特曼:不需要太多的想象力,就能想到值得高度警惕的情况。再说一遍,我们之所以这样做,是因为我们对巨大的发展前景和令人难以置信的积极影响感到非常兴奋。如果不为人类追求这些,那将是道德上的失败。但我们必须正视--这也发生在许多其他技术上--随之而来的弊端。这意味着你要考虑风险。你会努力衡量自己的能力,并尝试以一种能够降低风险的方式来构建自己的技术。然后,当你说 "嘿,这是一种新的安全技术 "时,你就会把它提供给其他人。
新闻来源:GenAI新世界 作者:大模型机动组
#chatgpt##chatgpt未来已来##ChatGPT官方[超话]# https://t.cn/R2WxsCs
《道德经》的十大名句,反应了10种人生智慧,值得我们一读再读
一、懂得迂回的智慧
“曲则全,枉则直,洼则盈,敝则新,少则得,多则惑。”
弯曲可以保全,受压反而伸直;低陷得到充盈,凋敝于是更新;单一因而得到,繁多所以迷惑。
二、要有水的精神
“上善若水,水善利万物而不争。”
最善的人好像水一样,水善于滋润万物而不与万物相争。
三、持而不盈,富贵不骄
“持而盈之,不如其已;揣而锐之,不可长保;金玉满堂,莫之能守;富贵而骄,自遗其咎。”
执持盈满,不如适时停止;显露锋芒,锐势难以保持长久。金玉满堂,无法守藏;如果富贵到了骄横的程度,那是自己留下了祸根。
一件事情做得圆满了,就要含藏收敛,这是符合自然规律的道理。
四、功成身退是一种舍得
“生而不有,为而不恃,长而不宰,是谓玄德。”
生长万物而不据为己有,抚育万物而不自恃有功,导引万物而不主宰,这就是奥妙玄远的德。
五、战胜自己,才是真正的强大
“知人者智,自知者明。胜人者有力,自胜者强。知足者富,强行者有志。”
能了解别人的称为机智,能认识自己的才叫智慧。能战胜别人的只能说明有力气,战胜自己的才叫强者。知道满足者才感到自己富有,身体力行才说明他有远大的志向。
六、看破祸福相依
“祸兮福之所倚,福兮祸之所伏。”
祸与福互相依存,可以互相转化。从好事中看到危机,就能够居安思危,及时处理危机。从坏事中看到机遇和希望,就能够化腐朽为神奇,甚至反败为胜。
七、静中有大智慧
“重为轻根,静为躁君。是以君子终日行不离辎重,虽有荣观,燕处超然。奈何万乘之主,而以身轻天下?轻则失根,躁则失君。”
厚重是轻率的根本,静定是躁动的主宰。因此君子终日行走,不离开载装行李的车辆,虽然有美食胜景吸引着他,却能安然处之。为什么大国的君主,还要轻率躁动以治天下呢?轻率就会失去根本,急躁就会丧失主导。
八、如何做成大事、做成难事
“合抱之木,生于毫末;九层之台,起于累土;千里之行,始于足下。”
粗大的树木,生长于细小的幼苗;九层的高台,筑起于每一堆泥土;千里的远行,是从脚下第一步开始走出来的。无论做任何事,我们都应该脚踏实地,妄想一步登天,无非是痴人说梦。
九、成熟是一种光而不耀的境界
“是以圣人方而不割,廉而不刿 ,直而不肆,光而不耀。”
圣人方正而不孤傲,喻指道者虽有所合于规矩,有棱边而不至于割伤别人,比喻为人廉正宽厚。“直而不肆”即坦率但不过分放肆;"光而不耀"即光明而不耀眼。
真正的成熟就是老子说的“方而不割,廉而不刿,直而不肆,光而不耀”,这的确是一种难得的境界。
十、学会做减法
“为学日益,为道日损。损之又损,以至于无为。”
求学要每天积累学问,修道却要每天减少;不断减少,以至于无为。
简化人生的“节目单”,把那些冗余的“欲望”减去,使自己的心灵更加纯净,目标更加清晰,如此才能轻装简从不断前行。
一、懂得迂回的智慧
“曲则全,枉则直,洼则盈,敝则新,少则得,多则惑。”
弯曲可以保全,受压反而伸直;低陷得到充盈,凋敝于是更新;单一因而得到,繁多所以迷惑。
二、要有水的精神
“上善若水,水善利万物而不争。”
最善的人好像水一样,水善于滋润万物而不与万物相争。
三、持而不盈,富贵不骄
“持而盈之,不如其已;揣而锐之,不可长保;金玉满堂,莫之能守;富贵而骄,自遗其咎。”
执持盈满,不如适时停止;显露锋芒,锐势难以保持长久。金玉满堂,无法守藏;如果富贵到了骄横的程度,那是自己留下了祸根。
一件事情做得圆满了,就要含藏收敛,这是符合自然规律的道理。
四、功成身退是一种舍得
“生而不有,为而不恃,长而不宰,是谓玄德。”
生长万物而不据为己有,抚育万物而不自恃有功,导引万物而不主宰,这就是奥妙玄远的德。
五、战胜自己,才是真正的强大
“知人者智,自知者明。胜人者有力,自胜者强。知足者富,强行者有志。”
能了解别人的称为机智,能认识自己的才叫智慧。能战胜别人的只能说明有力气,战胜自己的才叫强者。知道满足者才感到自己富有,身体力行才说明他有远大的志向。
六、看破祸福相依
“祸兮福之所倚,福兮祸之所伏。”
祸与福互相依存,可以互相转化。从好事中看到危机,就能够居安思危,及时处理危机。从坏事中看到机遇和希望,就能够化腐朽为神奇,甚至反败为胜。
七、静中有大智慧
“重为轻根,静为躁君。是以君子终日行不离辎重,虽有荣观,燕处超然。奈何万乘之主,而以身轻天下?轻则失根,躁则失君。”
厚重是轻率的根本,静定是躁动的主宰。因此君子终日行走,不离开载装行李的车辆,虽然有美食胜景吸引着他,却能安然处之。为什么大国的君主,还要轻率躁动以治天下呢?轻率就会失去根本,急躁就会丧失主导。
八、如何做成大事、做成难事
“合抱之木,生于毫末;九层之台,起于累土;千里之行,始于足下。”
粗大的树木,生长于细小的幼苗;九层的高台,筑起于每一堆泥土;千里的远行,是从脚下第一步开始走出来的。无论做任何事,我们都应该脚踏实地,妄想一步登天,无非是痴人说梦。
九、成熟是一种光而不耀的境界
“是以圣人方而不割,廉而不刿 ,直而不肆,光而不耀。”
圣人方正而不孤傲,喻指道者虽有所合于规矩,有棱边而不至于割伤别人,比喻为人廉正宽厚。“直而不肆”即坦率但不过分放肆;"光而不耀"即光明而不耀眼。
真正的成熟就是老子说的“方而不割,廉而不刿,直而不肆,光而不耀”,这的确是一种难得的境界。
十、学会做减法
“为学日益,为道日损。损之又损,以至于无为。”
求学要每天积累学问,修道却要每天减少;不断减少,以至于无为。
简化人生的“节目单”,把那些冗余的“欲望”减去,使自己的心灵更加纯净,目标更加清晰,如此才能轻装简从不断前行。
那话叫什么来着,失去要比拥有要幸福。
失去了你就不会再期待,日复一日,心如死灰般的活着。假如如果可以拥有,你就会患得患失,又怕失去又怕自己满心欢喜被辜负。
我突然有点害怕这种感觉,这十几二十天我几乎天天哭,肉眼可见的心情低落,每天在恨啊不甘心当中度过。可是今天这种心情让我特别没安全感,知道自己放不下,知道还想拥有,知道还在期待他来找我,可是我更知道,就算再在一起了,下次一定是万劫不复的深渊,我又要经历一次二十来天的痛陈心扉。
两个人在一起信任这个东西真的很重要,没出现裂痕之前各种信任,各种为他解释,他不是那样的,他肯定不会那样,哪怕他已经开始在隐瞒你很多你不知道和信以为真的事。可是出现了以后,怎么办,是你自己放不下他,是你又一次选择给他机会他伤害你,我一直以为我已经可以强大到承受感情的伤,你放不下,忘不掉,又回不到以前。
他跟你说的每一件事你都怀猜疑的心,他跟你说去哪了干嘛了,你也只会认为他肯定又是去做了你不喜欢的事,只要他不在你身边,不回你信息,不接你电话,你就怀疑他,然后自己心神不宁,烦躁难安。
但他不一样,你一次又一次妥协,一次又一次忍让,一次又一次主动找他,他并不会对你心生愧疚而痛改前非,他会更加玩的隐蔽,让你没那么容易抓住他的小辫子,因为你在他眼里是个好骗又廉价的人,他几乎都不用哄你就能乖乖听话。
昨天跟朋友说,我放不下,可是又不敢回头,她说怕什么,你被他伤了一次又一次,总有一次是底线,总有一天你会心死了彻底离开他。多卑微的话啊,好笑的是我居然照做了。
有时候我真的很想不通,他是长的帅了,还是给你很多钱了,他既不能够给我安全感,他又不能让我物质上得到满足,四年五个月了,我真的觉得自己还可以再来的年纪都给了他,可能放不下的是曾经的那些好,我依旧喜欢的是曾经那个对我温柔对我好的那时候的他。抖音里经常刷到,女儿要富养,比起母爱,其实父爱才是你抵抗感情的后盾,只要人家一点点好,你就觉得很好很好,好到自己明明很疼,明明不开心,明明过的很痛苦还舍不得放手,好像这个世间你只配得到一丝丝残缺不全,痛苦还想折磨自己的“爱”。
失去了你就不会再期待,日复一日,心如死灰般的活着。假如如果可以拥有,你就会患得患失,又怕失去又怕自己满心欢喜被辜负。
我突然有点害怕这种感觉,这十几二十天我几乎天天哭,肉眼可见的心情低落,每天在恨啊不甘心当中度过。可是今天这种心情让我特别没安全感,知道自己放不下,知道还想拥有,知道还在期待他来找我,可是我更知道,就算再在一起了,下次一定是万劫不复的深渊,我又要经历一次二十来天的痛陈心扉。
两个人在一起信任这个东西真的很重要,没出现裂痕之前各种信任,各种为他解释,他不是那样的,他肯定不会那样,哪怕他已经开始在隐瞒你很多你不知道和信以为真的事。可是出现了以后,怎么办,是你自己放不下他,是你又一次选择给他机会他伤害你,我一直以为我已经可以强大到承受感情的伤,你放不下,忘不掉,又回不到以前。
他跟你说的每一件事你都怀猜疑的心,他跟你说去哪了干嘛了,你也只会认为他肯定又是去做了你不喜欢的事,只要他不在你身边,不回你信息,不接你电话,你就怀疑他,然后自己心神不宁,烦躁难安。
但他不一样,你一次又一次妥协,一次又一次忍让,一次又一次主动找他,他并不会对你心生愧疚而痛改前非,他会更加玩的隐蔽,让你没那么容易抓住他的小辫子,因为你在他眼里是个好骗又廉价的人,他几乎都不用哄你就能乖乖听话。
昨天跟朋友说,我放不下,可是又不敢回头,她说怕什么,你被他伤了一次又一次,总有一次是底线,总有一天你会心死了彻底离开他。多卑微的话啊,好笑的是我居然照做了。
有时候我真的很想不通,他是长的帅了,还是给你很多钱了,他既不能够给我安全感,他又不能让我物质上得到满足,四年五个月了,我真的觉得自己还可以再来的年纪都给了他,可能放不下的是曾经的那些好,我依旧喜欢的是曾经那个对我温柔对我好的那时候的他。抖音里经常刷到,女儿要富养,比起母爱,其实父爱才是你抵抗感情的后盾,只要人家一点点好,你就觉得很好很好,好到自己明明很疼,明明不开心,明明过的很痛苦还舍不得放手,好像这个世间你只配得到一丝丝残缺不全,痛苦还想折磨自己的“爱”。
✋热门推荐