OpenAI CEO 阿尔特曼最新访谈：越多人参与AI，才能更好的控制AI
在人工智能飞速发展的世界里，关于未来的讨论往往集中在所谓的 "人工通用智能 "（artificial general intelligence）上。在这个阶段，人工智能将有能力完成人类能够完成的任何工作，而且只会做得更好。近期与 OpenAI 的首席执行官山姆·阿尔特曼（Sam Altman）和首席技术官米拉·穆拉蒂（Mira Murati）的对话谈论了关于“AGI 的潜在收益和风险”的话题。
以下是他们谈话的节选：
AGI 将是人类迄今为止创造出的最好工具
问：为什么AGI是目标？
山姆·阿尔特曼：在未来十年或几十年里，对改善人类生存条件最重要的两样东西，一是丰富和廉价的智能：越强大、越通用、越智能越好。我认为这就是 AG。然后二是丰富而廉价的能源。如果我们能在世界上完成这两件事，那么几乎很难想象我们还能做多少其他事情。我们坚信，只要给人们提供更好的工具，他们就会做出让你惊讶的事情。我认为，AGI 将是人类迄今为止创造出的最好工具。有了它，我们就能解决各种问题。我们将能以新的、创造性的方式表达自己。我们将为彼此、为自己、为世界、为这个正在展开的人类故事创造出不可思议的东西。这是新的，任何新事物都伴随着变化，而变化并不总是一帆风顺的。
问：它什么时候会出现，我们怎么知道它出现了？
米拉·穆拉蒂：可能在未来十年，但这有点棘手。我们经常谈论智能，谈论它有多智能，谈论它是否有意识、有知觉等等，但这些说法并不完全正确。因为它们定义了我们自己的智能，而我们正在构建的东西略有不同。
问：有些人对你们用来训练某些模型的一些数据并不满意。比如：好莱坞，出版商。当您在做之后的模型时，您围绕数据做了哪些事情？
山姆·阿尔特曼：首先，我们显然只能使用其他人允许的数据。挑战之一是，不同类型的数据拥有截然不同的所有者。因此，我们正在尝试很多东西。我们正在建立多样的合作关系，我们认为，就像任何一个新领域一样，我们会找到一些东西，成为新的标准。此外，随着这些模型越来越智能，能力越来越强，我们需要的训练数据也会越来越少。我认为，由于我们正在取得的技术进步，有关数据的对话以及所有这一切的形态都将发生转变。
问：出版商们都想花钱买数据。这场竞赛的未来是谁能为最好的数据支付最多的钱吗？
山姆·阿尔特曼：不，这正是我想说的。人们真正喜欢 GPT 模型的地方，从根本上说，并不在于它知道特定的知识。有更好的方法可以找到这些知识。而是它有这种幼年推理能力，而且会越来越好。这才是它的真正意义所在。
阿尔特曼：我不希望AI跟人类保持亲密关系
问：未来我们是否会与这类机器人建立深厚的关系？
米拉·穆拉蒂：这将是一种重要的关系。因为我们正在构建的系统将无处不在：在你的家中、在你的教育环境中、在你的工作环境中，甚至在你娱乐的时候。这就是为什么把它做好实际上非常重要。我们必须小心谨慎地设计这种互动，使其最终能够提升体验、带来乐趣、提高工作效率并增强创造力。我们还希望确保，在产品方面，我们对这些系统有一种掌控感，即我们可以引导它们做我们希望它们做的事情，而且输出是可靠的。随着它掌握更多关于你的喜好、你喜欢的东西、你做的事情的信息，以及模型能力的提高，它将变得更加个性化。而且不只是一个系统。您可以拥有许多针对特定领域和任务的个性化系统。
问：责任重大。你将控制人们的朋友，也许还会成为人们的恋人。你如何看待这种控制？
山姆·阿尔特曼：我们不会是这里唯一的参与者。会有很多人参与进来。因此，我们可以在技术发展的轨迹上 "推波助澜"。但是：a）我们真的认为，决定权属于人类，属于整个社会；b) 我们将是在这里构建复杂系统的众多参与者之一。会有提供不同服务的竞争产品，会有不同类型的社会拥护者和反对者，还会有监管方面的问题。我个人对未来的这一愿景深表忧虑，因为在未来，每个人都会与人工智能朋友走得很近，甚至比人类朋友走得更近。我个人并不希望如此。我认为其他人会想要那样，有些人会建造那样的东西。如果那是世界想要的，而且我们认为有意义，我们就会去做。
在实验室中不会诞生安全的AI
问：我们现在已经有了简单的聊天机器人。我们消除现在到处弥漫的对人工智能的恐惧？
山姆·阿尔特曼：不需要太多的想象力，就能想到值得高度警惕的情况。再说一遍，我们之所以这样做，是因为我们对巨大的发展前景和令人难以置信的积极影响感到非常兴奋。如果不为人类追求这些，那将是道德上的失败。但我们必须正视--这也发生在许多其他技术上--随之而来的弊端。这意味着你要考虑风险。你会努力衡量自己的能力，并尝试以一种能够降低风险的方式来构建自己的技术。然后，当你说 "嘿，这是一种新的安全技术 "时，你就会把它提供给其他人。
新闻来源：GenAI新世界 作者：大模型机动组
#chatgpt##chatgpt未来已来##ChatGPT官方[超话]# https://t.cn/R2WxsCs
在人工智能飞速发展的世界里，关于未来的讨论往往集中在所谓的 "人工通用智能 "（artificial general intelligence）上。在这个阶段，人工智能将有能力完成人类能够完成的任何工作，而且只会做得更好。近期与 OpenAI 的首席执行官山姆·阿尔特曼（Sam Altman）和首席技术官米拉·穆拉蒂（Mira Murati）的对话谈论了关于“AGI 的潜在收益和风险”的话题。
以下是他们谈话的节选：
AGI 将是人类迄今为止创造出的最好工具
问：为什么AGI是目标？
山姆·阿尔特曼：在未来十年或几十年里，对改善人类生存条件最重要的两样东西，一是丰富和廉价的智能：越强大、越通用、越智能越好。我认为这就是 AG。然后二是丰富而廉价的能源。如果我们能在世界上完成这两件事，那么几乎很难想象我们还能做多少其他事情。我们坚信，只要给人们提供更好的工具，他们就会做出让你惊讶的事情。我认为，AGI 将是人类迄今为止创造出的最好工具。有了它，我们就能解决各种问题。我们将能以新的、创造性的方式表达自己。我们将为彼此、为自己、为世界、为这个正在展开的人类故事创造出不可思议的东西。这是新的，任何新事物都伴随着变化，而变化并不总是一帆风顺的。
问：它什么时候会出现，我们怎么知道它出现了？
米拉·穆拉蒂：可能在未来十年，但这有点棘手。我们经常谈论智能，谈论它有多智能，谈论它是否有意识、有知觉等等，但这些说法并不完全正确。因为它们定义了我们自己的智能，而我们正在构建的东西略有不同。
问：有些人对你们用来训练某些模型的一些数据并不满意。比如：好莱坞，出版商。当您在做之后的模型时，您围绕数据做了哪些事情？
山姆·阿尔特曼：首先，我们显然只能使用其他人允许的数据。挑战之一是，不同类型的数据拥有截然不同的所有者。因此，我们正在尝试很多东西。我们正在建立多样的合作关系，我们认为，就像任何一个新领域一样，我们会找到一些东西，成为新的标准。此外，随着这些模型越来越智能，能力越来越强，我们需要的训练数据也会越来越少。我认为，由于我们正在取得的技术进步，有关数据的对话以及所有这一切的形态都将发生转变。
问：出版商们都想花钱买数据。这场竞赛的未来是谁能为最好的数据支付最多的钱吗？
山姆·阿尔特曼：不，这正是我想说的。人们真正喜欢 GPT 模型的地方，从根本上说，并不在于它知道特定的知识。有更好的方法可以找到这些知识。而是它有这种幼年推理能力，而且会越来越好。这才是它的真正意义所在。
阿尔特曼：我不希望AI跟人类保持亲密关系
问：未来我们是否会与这类机器人建立深厚的关系？
米拉·穆拉蒂：这将是一种重要的关系。因为我们正在构建的系统将无处不在：在你的家中、在你的教育环境中、在你的工作环境中，甚至在你娱乐的时候。这就是为什么把它做好实际上非常重要。我们必须小心谨慎地设计这种互动，使其最终能够提升体验、带来乐趣、提高工作效率并增强创造力。我们还希望确保，在产品方面，我们对这些系统有一种掌控感，即我们可以引导它们做我们希望它们做的事情，而且输出是可靠的。随着它掌握更多关于你的喜好、你喜欢的东西、你做的事情的信息，以及模型能力的提高，它将变得更加个性化。而且不只是一个系统。您可以拥有许多针对特定领域和任务的个性化系统。
问：责任重大。你将控制人们的朋友，也许还会成为人们的恋人。你如何看待这种控制？
山姆·阿尔特曼：我们不会是这里唯一的参与者。会有很多人参与进来。因此，我们可以在技术发展的轨迹上 "推波助澜"。但是：a）我们真的认为，决定权属于人类，属于整个社会；b) 我们将是在这里构建复杂系统的众多参与者之一。会有提供不同服务的竞争产品，会有不同类型的社会拥护者和反对者，还会有监管方面的问题。我个人对未来的这一愿景深表忧虑，因为在未来，每个人都会与人工智能朋友走得很近，甚至比人类朋友走得更近。我个人并不希望如此。我认为其他人会想要那样，有些人会建造那样的东西。如果那是世界想要的，而且我们认为有意义，我们就会去做。
在实验室中不会诞生安全的AI
问：我们现在已经有了简单的聊天机器人。我们消除现在到处弥漫的对人工智能的恐惧？
山姆·阿尔特曼：不需要太多的想象力，就能想到值得高度警惕的情况。再说一遍，我们之所以这样做，是因为我们对巨大的发展前景和令人难以置信的积极影响感到非常兴奋。如果不为人类追求这些，那将是道德上的失败。但我们必须正视--这也发生在许多其他技术上--随之而来的弊端。这意味着你要考虑风险。你会努力衡量自己的能力，并尝试以一种能够降低风险的方式来构建自己的技术。然后，当你说 "嘿，这是一种新的安全技术 "时，你就会把它提供给其他人。
新闻来源：GenAI新世界 作者：大模型机动组
#chatgpt##chatgpt未来已来##ChatGPT官方[超话]# https://t.cn/R2WxsCs
给自己的 小宝我现在很迷茫 你是我的小宝 她也是我的小宝 你现在会在干什么呢 会见得到你的小宝吗 现在的自己离国考还有一个月 四十一取二 听上去很简单对吧 竞争也没有那么激烈对吧 但是其实那不是现在的自己想要的 想要躺平却又不甘 好像考上了就是躺平 考不上就要劳碌半生 可是小宝 这不是你想要的 你其实不是一个甘于平淡的人 你想要去追寻更多更自由的事物 你想要去追寻自己 你不会想被困在一个小县城里再也去不到广阔的天地 但是小宝 你该怎么办呢 你从此会想离开所有让你不适的地方 现在的所有困境 我相信那时你早已走出 早已摆脱过去解决一切 那些烂泥不会沾染到你 但你该怎么办呢小宝 你会在人生的道路上做出什么样的选择呢 你会如愿以偿吗小宝 希望你能够有勇气去追寻想要的所有美好 希望你的人生全是旷野 没有轨道 希望你永远都有自己杀出重围的勇气 如果你志不在此 那我祝你早日找到并走好自己的路 如果你想要回家 那我祝你如愿以偿
我他妈读哭了：
1984年至1986年是尼日利亚的转折点，对大多数非洲国家来说也是如此。在这些年里，为了应对债务危机，尼日利亚政府与国际货币基金组织和世界银行进行了谈判，最终通过了一个结构调整方案。这是世界银行为全球经济复苏开出的通用药方。
该方案宣称可以让尼日利亚在国际市场上具有竞争力。但很快就显示出，这涉及新一轮的原始积累以及对社会再生产的合理化。其目的是摧毁最后残留的公共财产和社区关系，从而强加更多形式的劳动剥削。
因此，我看到在我眼前发生的，与我在写《伟大的凯列班》时研究到的历史非常相似。其中包括对公有土地的攻击，以及国家（在世界银行的怂恿下）对劳动力再生产的坚决干预：调节生育率，以及在这种情况下减少人口规模，因为从尼日利亚未来要融入全球经济的角度看，这些人口要求过高且没有纪律。
除了这些恰如其名的“严惩违纪”的政策外，我还目睹了一场谴责妇女虚荣心和过分要求的厌女运动在火上浇油，以及一场在许多方面类似于17世纪“妇女之争”（querelles des femmes）的激烈辩论壮大发展。这场辩论涉及劳动力再生产的方方面面：家庭（一夫多妻制与一夫一妻制、核心家庭与扩展家庭），育儿，妇女的工作，男女的身份认同和关系。
在这种情况下，我关于过渡时期的研究有了新的意义。在尼日利亚，我认识到，反对结构调整的斗争是反对土地私有化和“圈地”enclosure的长期斗争的一部分。
这种斗争不仅反对公有土地的“圈地”，还反对社会关系的“圈地”。
这可以追溯到16世纪欧洲和美洲资本主义的起源。
我也意识到，资本主义的劳动规训在这个星球上赢得的胜利是多么有限。有许多人仍然认为自己的生活与资本主义的“生产”要求是根本对立的。对于开发商、跨国机构和外国投资者来说，这曾经是，现在也仍然是尼日利亚这种地方的问题。
但对我来说，这是一个巨大的力量来源。
因为它证明，在世界范围内令人敬畏的力量依然在对抗着资本主义强加的生活方式。与尼日利亚妇女组织的接触同样带给我力量。该组织是这个国家第一个女权主义组织，它使我能够更好地理解尼日利亚妇女为捍卫自己的资源和拒绝世界银行目前提倡并强加给她们的父权制新模式而进行的斗争。
到1986年底，债务危机波及学术机构，我再也无法养活
自己。于是我离开了尼日利亚，即便我的精神与这片土地同在。
但是我会一直想到那些对尼日利亚人民发动的攻击。因此，重新研究“向资本主义的过渡”的愿望在我回到美国后一直伴随着我。
我曾以16世纪的欧洲为镜来解读尼日利亚事件。在美国，是尼日利亚的无产阶级把我带回到了欧洲内外争取公地和反抗资本主义规训妇女的斗争中。回到美国后，我也开始教授面向本科生的跨学科课程。
在那里，我面对的是另一种类型的“圈地”：知识的圈地，也就是说，新的一代人日益丧失了对于我们共同历史的感受。这就是为什么在《凯列班与女巫》中，我重构了中世纪的反封建斗争，以及欧洲无产阶级抵抗资本主义到来的斗争。
我这样做的目的不仅是要让专家之外的人们了解这些分析所依赖的证据，而且是要在年轻一代中重新唤起对漫长的抗争史的记忆一这种记忆在今天有被抹杀的危险。
如果我们要找到资本主义的替代方案，拯救这种历史记忆是至关重要的。因为（替代方案的）这种可能性将取决于我们是否能听到这条路上前人的声音。
#凯列班#
1984年至1986年是尼日利亚的转折点，对大多数非洲国家来说也是如此。在这些年里，为了应对债务危机，尼日利亚政府与国际货币基金组织和世界银行进行了谈判，最终通过了一个结构调整方案。这是世界银行为全球经济复苏开出的通用药方。
该方案宣称可以让尼日利亚在国际市场上具有竞争力。但很快就显示出，这涉及新一轮的原始积累以及对社会再生产的合理化。其目的是摧毁最后残留的公共财产和社区关系，从而强加更多形式的劳动剥削。
因此，我看到在我眼前发生的，与我在写《伟大的凯列班》时研究到的历史非常相似。其中包括对公有土地的攻击，以及国家（在世界银行的怂恿下）对劳动力再生产的坚决干预：调节生育率，以及在这种情况下减少人口规模，因为从尼日利亚未来要融入全球经济的角度看，这些人口要求过高且没有纪律。
除了这些恰如其名的“严惩违纪”的政策外，我还目睹了一场谴责妇女虚荣心和过分要求的厌女运动在火上浇油，以及一场在许多方面类似于17世纪“妇女之争”（querelles des femmes）的激烈辩论壮大发展。这场辩论涉及劳动力再生产的方方面面：家庭（一夫多妻制与一夫一妻制、核心家庭与扩展家庭），育儿，妇女的工作，男女的身份认同和关系。
在这种情况下，我关于过渡时期的研究有了新的意义。在尼日利亚，我认识到，反对结构调整的斗争是反对土地私有化和“圈地”enclosure的长期斗争的一部分。
这种斗争不仅反对公有土地的“圈地”，还反对社会关系的“圈地”。
这可以追溯到16世纪欧洲和美洲资本主义的起源。
我也意识到，资本主义的劳动规训在这个星球上赢得的胜利是多么有限。有许多人仍然认为自己的生活与资本主义的“生产”要求是根本对立的。对于开发商、跨国机构和外国投资者来说，这曾经是，现在也仍然是尼日利亚这种地方的问题。
但对我来说，这是一个巨大的力量来源。
因为它证明，在世界范围内令人敬畏的力量依然在对抗着资本主义强加的生活方式。与尼日利亚妇女组织的接触同样带给我力量。该组织是这个国家第一个女权主义组织，它使我能够更好地理解尼日利亚妇女为捍卫自己的资源和拒绝世界银行目前提倡并强加给她们的父权制新模式而进行的斗争。
到1986年底，债务危机波及学术机构，我再也无法养活
自己。于是我离开了尼日利亚，即便我的精神与这片土地同在。
但是我会一直想到那些对尼日利亚人民发动的攻击。因此，重新研究“向资本主义的过渡”的愿望在我回到美国后一直伴随着我。
我曾以16世纪的欧洲为镜来解读尼日利亚事件。在美国，是尼日利亚的无产阶级把我带回到了欧洲内外争取公地和反抗资本主义规训妇女的斗争中。回到美国后，我也开始教授面向本科生的跨学科课程。
在那里，我面对的是另一种类型的“圈地”：知识的圈地，也就是说，新的一代人日益丧失了对于我们共同历史的感受。这就是为什么在《凯列班与女巫》中，我重构了中世纪的反封建斗争，以及欧洲无产阶级抵抗资本主义到来的斗争。
我这样做的目的不仅是要让专家之外的人们了解这些分析所依赖的证据，而且是要在年轻一代中重新唤起对漫长的抗争史的记忆一这种记忆在今天有被抹杀的危险。
如果我们要找到资本主义的替代方案，拯救这种历史记忆是至关重要的。因为（替代方案的）这种可能性将取决于我们是否能听到这条路上前人的声音。
#凯列班#
✋热门推荐