#2023读书之七# 赵汀阳著《人工智能的神话或悲歌》。
面对不少人陶醉于人工智能创造的一个又一个神话的现实,作者从哲学的角度提出,人的神话,或者主体性的神话,包括人工智能和基因科学的神话,隐含其中的可能是人类的悲歌。
客观而言,技术进步为人类创造了太多太多的便利,在多重意义上延展了人类的能力,比如,飞机、火车、汽车等交通工具大大拓展了人类行的能力,让日行千里夜行八百的古老神话变为现实,互联网、移动电话等通讯工具极大缩短人类的交流联通距离,让千里眼顺风耳的特异功能变成人人都拥有的十八般武艺,等等。
在作者看来,如此这些,都是落脚在功能改善上的技术革命,但人工智能可能是存在的革命。当然,这里讲的人工智能,是拟人化的超级人工智能,即让人工智能拥有类似人的情感、欲望和思维。但这恰恰是最危险之处,其原因在于,超越肉身局限性存在的超级人工智能,一旦具备人自诩为万物尺度的这些特质,就会成为一个凌驾于人之上的存在。
一个凌驾于人之上的准人类,会需要甚至容忍人类的存在吗?这也是作者最为担心的地方。因为,越有人性的人工智能就越危险,因为人性才是所有危险的根源。说得更让人绝望一点,这世界上最危险也最坏的生物,是人,是人,还是人。历史早已证明,互相冲突的欲望、利益、情感和价值观,正是人类全部悲剧或者灾难的根源。
在没有超级人工智能的前提下,肉身的限制,使得每个人都无法回避的事实是,人人都是某种意义上的弱者,但这恰恰是人类社会的最大运气之所在。正因为这种运气或者弱势,使得伦理、法律和政治制度应运而生,为互有伤害能力的弱者通过长期博弈形成稳定均衡提供了前提。
超级人工智能则不然,它创造了绝对的强者,破坏了人类最幸运的运气成分。毕竟,绝对强者不需要高成本的伦理、法律和政治去解决冲突,他只需要弹指一挥间,利用绝对的技术优势去实现文明的重新野蛮化,即丛林法则的大行其道。所以作者一再担忧,启蒙运动以来,人的主体性的发现,赋予了人理性的解放,同时也带来理性的傲慢。
其实,理性人的假设,是人类最大的自以为是,它在最大限度上无视了人的弱点、缺点甚至罪恶。事实上,人并不总是理性的,绝大多数情况下,人受到欲望、情感等更多非理性因素的影响甚至支配。这也就是为什么以理性人作为理论基础的经济学理论,经常在面对错综复杂的现实时,错得一塌糊涂。
每一个人,在任何一个时刻,都可能是意识混乱的,这么说并没有任何贬义称为,而是要说,人类意识并没有自诩的那么优越,理性、情感、利益、信念到底如何排序,很多时候要看当时的具体情景,所以人类始终面临着两难甚至多难的选择。这也就是为什么技术可以日新月异,而人性面临的普遍困境千百年却始终岿然不动。
从这个意义上讲,如果超级人工智能具备了人类的欲望、情感和价值观,其远远超越人类肉身的能力,会让这些因素带来的冲突几何级爆发,而这势必会让超级人工智能全然凌驾于人类之上,甚至可能因此对人类进入“天地不仁,以万物为刍狗”的可怕境地。
人工智能承载了人类太多改变存在的欲望,近乎于迄今为止人类为追求完美做出的最为完美的尝试,但问题是,人类的智慧其实并不足以建立一个万物都美好和谐的秩序情景。想想人类历史,多少以完美主义愿望试图改天换地的实践都沦为莫大的灾难。理解了这一点,就会明白作者对超级人工智能那深深地担忧,“可是好事总是麻痹心灵,而对其副作用缺乏修正能力,最终将积重难返而崩溃。这不知是不是最新版的存在还是毁灭问题”。
面对不少人陶醉于人工智能创造的一个又一个神话的现实,作者从哲学的角度提出,人的神话,或者主体性的神话,包括人工智能和基因科学的神话,隐含其中的可能是人类的悲歌。
客观而言,技术进步为人类创造了太多太多的便利,在多重意义上延展了人类的能力,比如,飞机、火车、汽车等交通工具大大拓展了人类行的能力,让日行千里夜行八百的古老神话变为现实,互联网、移动电话等通讯工具极大缩短人类的交流联通距离,让千里眼顺风耳的特异功能变成人人都拥有的十八般武艺,等等。
在作者看来,如此这些,都是落脚在功能改善上的技术革命,但人工智能可能是存在的革命。当然,这里讲的人工智能,是拟人化的超级人工智能,即让人工智能拥有类似人的情感、欲望和思维。但这恰恰是最危险之处,其原因在于,超越肉身局限性存在的超级人工智能,一旦具备人自诩为万物尺度的这些特质,就会成为一个凌驾于人之上的存在。
一个凌驾于人之上的准人类,会需要甚至容忍人类的存在吗?这也是作者最为担心的地方。因为,越有人性的人工智能就越危险,因为人性才是所有危险的根源。说得更让人绝望一点,这世界上最危险也最坏的生物,是人,是人,还是人。历史早已证明,互相冲突的欲望、利益、情感和价值观,正是人类全部悲剧或者灾难的根源。
在没有超级人工智能的前提下,肉身的限制,使得每个人都无法回避的事实是,人人都是某种意义上的弱者,但这恰恰是人类社会的最大运气之所在。正因为这种运气或者弱势,使得伦理、法律和政治制度应运而生,为互有伤害能力的弱者通过长期博弈形成稳定均衡提供了前提。
超级人工智能则不然,它创造了绝对的强者,破坏了人类最幸运的运气成分。毕竟,绝对强者不需要高成本的伦理、法律和政治去解决冲突,他只需要弹指一挥间,利用绝对的技术优势去实现文明的重新野蛮化,即丛林法则的大行其道。所以作者一再担忧,启蒙运动以来,人的主体性的发现,赋予了人理性的解放,同时也带来理性的傲慢。
其实,理性人的假设,是人类最大的自以为是,它在最大限度上无视了人的弱点、缺点甚至罪恶。事实上,人并不总是理性的,绝大多数情况下,人受到欲望、情感等更多非理性因素的影响甚至支配。这也就是为什么以理性人作为理论基础的经济学理论,经常在面对错综复杂的现实时,错得一塌糊涂。
每一个人,在任何一个时刻,都可能是意识混乱的,这么说并没有任何贬义称为,而是要说,人类意识并没有自诩的那么优越,理性、情感、利益、信念到底如何排序,很多时候要看当时的具体情景,所以人类始终面临着两难甚至多难的选择。这也就是为什么技术可以日新月异,而人性面临的普遍困境千百年却始终岿然不动。
从这个意义上讲,如果超级人工智能具备了人类的欲望、情感和价值观,其远远超越人类肉身的能力,会让这些因素带来的冲突几何级爆发,而这势必会让超级人工智能全然凌驾于人类之上,甚至可能因此对人类进入“天地不仁,以万物为刍狗”的可怕境地。
人工智能承载了人类太多改变存在的欲望,近乎于迄今为止人类为追求完美做出的最为完美的尝试,但问题是,人类的智慧其实并不足以建立一个万物都美好和谐的秩序情景。想想人类历史,多少以完美主义愿望试图改天换地的实践都沦为莫大的灾难。理解了这一点,就会明白作者对超级人工智能那深深地担忧,“可是好事总是麻痹心灵,而对其副作用缺乏修正能力,最终将积重难返而崩溃。这不知是不是最新版的存在还是毁灭问题”。
#志愿者[超话]##点亮志愿者[超话]#
【以学铸魂担使命,深入基层写青春】
通过这几天的实践活动,让我从中领悟到许多课本上未曾提及的东西。
“两耳不闻窗外事,一心只读圣贤书”的人不再是现代社会需要的人才。通过参加一些实践性活动巩固所学的理论,增长一些书本上学不到的知识和技能,因为知识转化成真正的能力,要依靠实践的经验和锻炼。作为新时代的青年,我们需要为以后真正面对现实世界而积累经验和锻炼提升能力,丰富人生经历,体验人生百态。
这几天的进社区志愿服务活动也让我的思想认识得到很大的提升,让我体会到为他人,为社会做贡献的乐趣,懂得了尽我所能在社会上奉献一点绵薄之力是一件令人愉快的事情,明白了服务社会是我们每个人的义务。
社会就是一个大家庭,而我们每个人都是其中一员,我们每个人都有这个服务的义务,我们每个人都为社会奉献一点爱心,我们的社会文明将不断取得进步,人民的生活也将会变得更加幸福!
#青春三下乡##三下乡##感悟中的三下乡##大学生暑期社会实践#
【以学铸魂担使命,深入基层写青春】
通过这几天的实践活动,让我从中领悟到许多课本上未曾提及的东西。
“两耳不闻窗外事,一心只读圣贤书”的人不再是现代社会需要的人才。通过参加一些实践性活动巩固所学的理论,增长一些书本上学不到的知识和技能,因为知识转化成真正的能力,要依靠实践的经验和锻炼。作为新时代的青年,我们需要为以后真正面对现实世界而积累经验和锻炼提升能力,丰富人生经历,体验人生百态。
这几天的进社区志愿服务活动也让我的思想认识得到很大的提升,让我体会到为他人,为社会做贡献的乐趣,懂得了尽我所能在社会上奉献一点绵薄之力是一件令人愉快的事情,明白了服务社会是我们每个人的义务。
社会就是一个大家庭,而我们每个人都是其中一员,我们每个人都有这个服务的义务,我们每个人都为社会奉献一点爱心,我们的社会文明将不断取得进步,人民的生活也将会变得更加幸福!
#青春三下乡##三下乡##感悟中的三下乡##大学生暑期社会实践#
【老人视觉出现敏感度下降,视野缩小】
到了1973年,民间精神病学的机构得以建立,与美国普遍反对越南战争的民间抗议活动同时发生的是,这些民间结构制定了禁止军方精神科医生加入美国精神医学学会的决议。许多人都认为军事精神病学最好不与主流精神病学产生任何关系,而这个决定中最坏的也是最不道德的努力就是,极力说服心里受到极度伤害的战士重返战场。而这些民间精神科医生却也已经忘记,或许他们根本都不知道那些他们自己所推崇的理论和实践,例如社区、团体心理治疗以及作为预防措施的精神疾病筛查、急性应急反应的治疗、短期心理治疗和社区精神疾病学,都是最先在军队中开始的。我所研究的第三种历史模式是精神疾病日益深化的医疗化。医疗化是一个过程,通过这个过程,我们可以诠释日常生活中的方方面面,包括非医学性的问题,好像他们就是医疗问题一样: 似乎变性者就会成为病理性的“性别不安”,或者分娩几乎成为在医院里受到医生们全面关注的病例。/转摘M1y
到了1973年,民间精神病学的机构得以建立,与美国普遍反对越南战争的民间抗议活动同时发生的是,这些民间结构制定了禁止军方精神科医生加入美国精神医学学会的决议。许多人都认为军事精神病学最好不与主流精神病学产生任何关系,而这个决定中最坏的也是最不道德的努力就是,极力说服心里受到极度伤害的战士重返战场。而这些民间精神科医生却也已经忘记,或许他们根本都不知道那些他们自己所推崇的理论和实践,例如社区、团体心理治疗以及作为预防措施的精神疾病筛查、急性应急反应的治疗、短期心理治疗和社区精神疾病学,都是最先在军队中开始的。我所研究的第三种历史模式是精神疾病日益深化的医疗化。医疗化是一个过程,通过这个过程,我们可以诠释日常生活中的方方面面,包括非医学性的问题,好像他们就是医疗问题一样: 似乎变性者就会成为病理性的“性别不安”,或者分娩几乎成为在医院里受到医生们全面关注的病例。/转摘M1y
✋热门推荐