#AI与播客##一些迟到的##播客笔记#
Sam Altman: OpenAI CEO on GPT-4, ChatGPT, and the Future of AI #367
3月25日 @ Lex Fridman Podcast
takeaways:
0. 顶流播客主持人Lex既是大学霸又是巴西柔术黑带，极度自律以至于被粉丝调侃说是AI本I
（有意思的是，采访中Lex开玩笑暗示Sam是AI）。
1. ChatGPT如何改变编程
重要的不只是提出要求后GPT能够根据要求生成代码、自主debug，更是由GPT扮演创意助理的角色，提供一种对话式的(dialogue interface)协作体验。
对于是否会让程序员失业，Sam谈到假如AI能让程序员的生产力提高十倍，那工作量（代码量）会变成十倍，而不是保留一位完成工作、辞去剩下的九位。
2. ChatGPT拒绝回应有害内容（如仇恨言论）
不同人群对于有害内容的界定不同，ChatGPT设想建构一个“虽然有很多不同意见但足够好”的基础模型，不同群体可以进一步定制希望回避或拒绝回应的内容。（图3-4）
3. ChatGPT3.5到4的进步
基础模型中有很多技术飞跃，涉及到数据收集、清理、训练、优化、架构，这些小的成功(small wins)相乘(multiply)获得了巨大的进步。
4. ChatGPT是人类目前创造的最复杂的软件。参数量：
GPT-2 1.5B
GPT-3 175B
GPT-4 170T（图5）
5. 虽然参数量大得惊人，但OpenAI并不津津乐道于这个“噱头”。OpenAI看重的是有效、实用：大语言模型(LLM)此前并不被业界看好，被认为不够优雅，但OpenAI在LLM上孤注一掷，因为它有足够优秀的表现。
6. Sam认为GPT-4不是AGI
7. 目前对AI的担忧：
- 虚假信息问题disinformation problems
- 经济冲击economic shocks
即将出现很多开源大语言模型LLM，缺乏安全控制safety control
8. 如何平衡技术的安全性和市场/商业上的成功
市场上可以同时存在多个AGI，所以OPENAI不会致力于打败所有竞争者，而是专注自己的信条和使命，打造自己的AGI。
9. Sam剖析自己的弱点
- 做不了AI运动的代言人——对AI极度有热情并且有魅力、亲和力、感召力
- 与普通人的生活现实脱节，对于普通人的生活会受到AGI何种影响，需要努力地去理解、内化，尽可能感同身受。
10. Sam支持全民基本收入UBI(Universal Basic Income)，其中一个尝试是Worldcoin项目。他还资助了一个UBI研究，今年底能够完成，预计明年初进行公布和讨论。
11. 展望未来
经济转变会驱动政治转变；智能成本、能源成本会急速下降，会让社会变得极度丰富。
12. 与微软的合作
Sam盛赞微软的CEO Satya Nadella和CTO Kevin Scott在与OPENAI合作时非常灵活，尤其是愿意在控制条款control provisions上让步。作为Satya的“忠实粉丝”，Sam认为他兼具领导力和管理能力——而通常CEO只能满足其一。
13. 在对于ChatGPT的称呼上，Sam说自己一直用的是it，很好奇其他人使用he she的想法来自哪里。或许人称代词的选用在一定程度上反映了工具和生物的界限。
14. AI提供浪漫/陪伴关系
e.g. replika
Sam对这个方向不感兴趣
15. 对年轻人的建议
Sam在个人博客上列了13条，能帮助人成功的品质。我把ChatGPT对这篇文章的概述贴在这里。（图6-12）
Sam Altman: OpenAI CEO on GPT-4, ChatGPT, and the Future of AI #367
3月25日 @ Lex Fridman Podcast
takeaways:
0. 顶流播客主持人Lex既是大学霸又是巴西柔术黑带，极度自律以至于被粉丝调侃说是AI本I
（有意思的是，采访中Lex开玩笑暗示Sam是AI）。
1. ChatGPT如何改变编程
重要的不只是提出要求后GPT能够根据要求生成代码、自主debug，更是由GPT扮演创意助理的角色，提供一种对话式的(dialogue interface)协作体验。
对于是否会让程序员失业，Sam谈到假如AI能让程序员的生产力提高十倍，那工作量（代码量）会变成十倍，而不是保留一位完成工作、辞去剩下的九位。
2. ChatGPT拒绝回应有害内容（如仇恨言论）
不同人群对于有害内容的界定不同，ChatGPT设想建构一个“虽然有很多不同意见但足够好”的基础模型，不同群体可以进一步定制希望回避或拒绝回应的内容。（图3-4）
3. ChatGPT3.5到4的进步
基础模型中有很多技术飞跃，涉及到数据收集、清理、训练、优化、架构，这些小的成功(small wins)相乘(multiply)获得了巨大的进步。
4. ChatGPT是人类目前创造的最复杂的软件。参数量：
GPT-2 1.5B
GPT-3 175B
GPT-4 170T（图5）
5. 虽然参数量大得惊人，但OpenAI并不津津乐道于这个“噱头”。OpenAI看重的是有效、实用：大语言模型(LLM)此前并不被业界看好，被认为不够优雅，但OpenAI在LLM上孤注一掷，因为它有足够优秀的表现。
6. Sam认为GPT-4不是AGI
7. 目前对AI的担忧：
- 虚假信息问题disinformation problems
- 经济冲击economic shocks
即将出现很多开源大语言模型LLM，缺乏安全控制safety control
8. 如何平衡技术的安全性和市场/商业上的成功
市场上可以同时存在多个AGI，所以OPENAI不会致力于打败所有竞争者，而是专注自己的信条和使命，打造自己的AGI。
9. Sam剖析自己的弱点
- 做不了AI运动的代言人——对AI极度有热情并且有魅力、亲和力、感召力
- 与普通人的生活现实脱节，对于普通人的生活会受到AGI何种影响，需要努力地去理解、内化，尽可能感同身受。
10. Sam支持全民基本收入UBI(Universal Basic Income)，其中一个尝试是Worldcoin项目。他还资助了一个UBI研究，今年底能够完成，预计明年初进行公布和讨论。
11. 展望未来
经济转变会驱动政治转变；智能成本、能源成本会急速下降，会让社会变得极度丰富。
12. 与微软的合作
Sam盛赞微软的CEO Satya Nadella和CTO Kevin Scott在与OPENAI合作时非常灵活，尤其是愿意在控制条款control provisions上让步。作为Satya的“忠实粉丝”，Sam认为他兼具领导力和管理能力——而通常CEO只能满足其一。
13. 在对于ChatGPT的称呼上，Sam说自己一直用的是it，很好奇其他人使用he she的想法来自哪里。或许人称代词的选用在一定程度上反映了工具和生物的界限。
14. AI提供浪漫/陪伴关系
e.g. replika
Sam对这个方向不感兴趣
15. 对年轻人的建议
Sam在个人博客上列了13条，能帮助人成功的品质。我把ChatGPT对这篇文章的概述贴在这里。（图6-12）
在油管上刷了一个克劳萨的人物分析视频，提到很有意思的点：
1.DC中开头克劳萨的刀上已经刻有蛇的标志，与哈维尔的组织“圣蛇”的标志一致，而他拿着那把刀杀死了丛林里的蛇，这呼应了他最终杀了哈维尔，而成为哈维尔的下一个继任者。
2.RE中克劳萨在所有boss中都是更特殊的那个，他的所有对战逻辑和玩家更为相似，这让他看上去像是一个技巧成熟版的玩家，而当玩家克服这一切，他也最终选择变异。
3.克劳萨最终让里昂用他自己定制的刀杀了他，像是一种奇妙的隐喻，就好像他让曾经的自己杀了自己即将成为的怪物。
4.原版克劳萨选择成为BOW更像是以功绩为导向的选择结果，而重制版更像是无力者的一种绝望的尝试，而这让克劳萨的底层逻辑与维吉尔更加相像（Make Krauser Leon‘s own Vergil）
5.两人像硬币的两面：这可能是克劳萨人物设定中最重要的一点之一，他和里昂都是见识了生化武器带来的灾难与力量，并且都被政府背叛，但里昂站在人类一方，而克劳萨选择成为怪物。
6.也是我觉得最有意思的一点：这位油管主认为RE的里昂没有参与到哈维尔行动当中。两人谈话中提到的丛林其实也可以是他们一开始训练的那篇丛林。
彩蛋：黑暗历代记宣传期间卡普空为克劳萨开设了推特帐号（图1），虽然都是些原台词但还……蛮好笑的……
1.DC中开头克劳萨的刀上已经刻有蛇的标志，与哈维尔的组织“圣蛇”的标志一致，而他拿着那把刀杀死了丛林里的蛇，这呼应了他最终杀了哈维尔，而成为哈维尔的下一个继任者。
2.RE中克劳萨在所有boss中都是更特殊的那个，他的所有对战逻辑和玩家更为相似，这让他看上去像是一个技巧成熟版的玩家，而当玩家克服这一切，他也最终选择变异。
3.克劳萨最终让里昂用他自己定制的刀杀了他，像是一种奇妙的隐喻，就好像他让曾经的自己杀了自己即将成为的怪物。
4.原版克劳萨选择成为BOW更像是以功绩为导向的选择结果，而重制版更像是无力者的一种绝望的尝试，而这让克劳萨的底层逻辑与维吉尔更加相像（Make Krauser Leon‘s own Vergil）
5.两人像硬币的两面：这可能是克劳萨人物设定中最重要的一点之一，他和里昂都是见识了生化武器带来的灾难与力量，并且都被政府背叛，但里昂站在人类一方，而克劳萨选择成为怪物。
6.也是我觉得最有意思的一点：这位油管主认为RE的里昂没有参与到哈维尔行动当中。两人谈话中提到的丛林其实也可以是他们一开始训练的那篇丛林。
彩蛋：黑暗历代记宣传期间卡普空为克劳萨开设了推特帐号（图1），虽然都是些原台词但还……蛮好笑的……
✨“五彩缤纷”星光空间东星无机水磨石装修案例
自人类文明伊始
✨星空一直以其神秘浩瀚
激发着人类对于另一维度生命体验的求索
收获了人类最古老的凝视与哲思
激发着人类对异域文明的无限向往
✨✨✨✨✨✨
东星无机水磨石
【产品型号】五彩缤纷板面（见第4.5图）
【可应用区域】商场/酒店/机场/地铁/店面等
【可应用部位】墙/地面/台面铺贴/背景墙/隔断/家具/灯饰/家居摆件定制
【主材供应】福建泉州南星大理石有限公司——东星无机水磨石
【产品规格】常规大板规格: 1600*2400mm、1600*3200mm、1800*2700mm;工程加工建议: 600*600mm、800*800mm、600*1200mm;厚度:可按需定制
✨✨✨✨✨✨
东星无机水磨石·五彩缤纷
俊俏而闪耀的星辰✨
赋予华而不俗的底蕴
在空间的行进与感知中
体验一场艺术漫游
一石体验斗转星移的变化魅力✨
感受漫天繁星因你而来
一同去探索无尽的希望与奇趣
漫漫流萤，星星眨着眼
玉石骨料随着夜光跳起了舞
它说要随性，要自在的我
要连着灵魂里的星光也可以触摸到✨
✨✨✨✨✨✨
[太开心]想了解更多装修案例，您也可以关注‘东星无机水磨石’微信公众号，可以及时获取更多新案例！！！
#泉州·东星集团[地点]##东星无机水磨石##家居装修##水磨石[超话]##装修材料[超话]##装修[超话]##梦想改造家 ##装修风格##无机水磨石##设计选材##绿色建材 ##环保材料##地面材料##墙面材料##设计美学[超话]##装修案例分享#
自人类文明伊始
✨星空一直以其神秘浩瀚
激发着人类对于另一维度生命体验的求索
收获了人类最古老的凝视与哲思
激发着人类对异域文明的无限向往
✨✨✨✨✨✨
东星无机水磨石
【产品型号】五彩缤纷板面（见第4.5图）
【可应用区域】商场/酒店/机场/地铁/店面等
【可应用部位】墙/地面/台面铺贴/背景墙/隔断/家具/灯饰/家居摆件定制
【主材供应】福建泉州南星大理石有限公司——东星无机水磨石
【产品规格】常规大板规格: 1600*2400mm、1600*3200mm、1800*2700mm;工程加工建议: 600*600mm、800*800mm、600*1200mm;厚度:可按需定制
✨✨✨✨✨✨
东星无机水磨石·五彩缤纷
俊俏而闪耀的星辰✨
赋予华而不俗的底蕴
在空间的行进与感知中
体验一场艺术漫游
一石体验斗转星移的变化魅力✨
感受漫天繁星因你而来
一同去探索无尽的希望与奇趣
漫漫流萤，星星眨着眼
玉石骨料随着夜光跳起了舞
它说要随性，要自在的我
要连着灵魂里的星光也可以触摸到✨
✨✨✨✨✨✨
[太开心]想了解更多装修案例，您也可以关注‘东星无机水磨石’微信公众号，可以及时获取更多新案例！！！
#泉州·东星集团[地点]##东星无机水磨石##家居装修##水磨石[超话]##装修材料[超话]##装修[超话]##梦想改造家 ##装修风格##无机水磨石##设计选材##绿色建材 ##环保材料##地面材料##墙面材料##设计美学[超话]##装修案例分享#
✋热门推荐