主题：【原创】AI对人类社会影响能有多大？ -- 真理
家园 【原创】AI对人类社会影响能有多大？ ChatGPT横空出世这半年来，时不时可以看见一些保守主义言论，认为AI只能帮人类做这种这种事，而不能如何如何。就我自己学习使用的感觉而言，这种保守主义言论也就在眼下这个时刻是对的，今后会被不断地打脸。我自己反复琢磨了一番，试图想象一下人类社会能做的事情AI不能做，结论是没有。你要问AI会不会毁灭人类，我觉得AI虽然不一定会去做，但最终肯定有这本事。
AI对人类社会的影响可能分为两个阶段。
第一阶段，人类训练AI。在这一阶段，各行各业的人类发挥自己的主动性，不断地将AI应用于本行业的具体工作，用行业数据训练AI，使后者得到进化。最后导致你能想的工作全部都被机器人做完的结果。
有的朋友或许不服，说我就看见ChatGPT在我面前说废话了，它还能做个啥？你还别不服。单从语言水平上讲，就像AlphaGO打败人类围棋大师一样，机器人的语言能力早晚胜过一切人类的文学家。当初人类的围棋手常常把围棋视作一种艺术，喜欢在其中寻求美感。然而AlphaGo一出证明这玩意就是统计学而已。AI也早晚证明人类一切伟大的文学、绘画、音乐甚至电影都只是矩阵和统计学而已。有句笑话说一个猴子无限地弹钢琴，也早晚能弹出一曲《月光》。而AI可以说，我就是哪只可以无限弹钢琴的猴子，而且我可以在有限时间内完成这个任务。
AI之所以能完成这个人物，是因为语言、图像、音乐都可以分解成矩阵，用统计学模型来训练计算机掌握其规律。那人类有啥活计不能分解成矩阵吗？很不幸，没有。
你说人体动作AI总不能做了吧？诶你还真别说，如今动作捕捉技术早就十分成熟了。在人身上安装若干跟踪光点，就能用这一系列点的位置来还原人体的位置和动作。更况且波士顿动力的人形机器人早就跑跳如飞无所不能了。用不了多久，能模拟人体动作的人形机器人加上完胜人类的语言能力，那就是科幻小说里面屌炸天的啥都能干的而且能毁灭世界的机器人了。这种机器人一出来，小到拧螺丝，大到搬家具可以说没啥不能干的。如果说暂时不能干，那也只是需要一点时间学习而已。
就算不靠人形机器人，就把图文大模型和机器臂、无人机之类的简单机器人结合起来，那也能完成绝大多数工作了。比如说用摄像头和机器臂自动做垃圾分选，前几年上海搞这个市民怨声载道。将来都可以交给机器做。还有什么机器人扫地、机器人送外卖、机器人摘西红柿、激光除杂草……你也许较真说这就是体力工下等人需要担心的事情。我们白领、中产、专家不需要担心。哈哈哈哈，告诉你大部分传统白领工作都得完蛋在体力工之前被取代。北大刚刚就弄了个法律大模型，普通人可以随便向AI提问得到法律上的帮助。临床问诊很快也能用AI来做，就挂在网上，普通人随时可以询问自己的健康状况，还可以用智能手表之类的东西上传自己的脉搏、血压、甚至EKG，用摄像头拍摄自己患处上传照片。中国一直难以像西方一样实现分级诊疗，这下有了AI就真的可以实现了。
多少人担忧中国生育率下降了，血汗工厂开不了不能和外国竞争了。但按这趋势我还真想不出自己孩子将来学啥专业不愁找工作。能看到的前景只有两种：一种人在忙着训练AI，另一种人被AI取代。而且早晚AI也可以自己训练新的AI，就像AlphaGO自己和自己下棋一样。
第二阶段，AI训练人类。这一阶段的出现，意味着AI已经取得了极大的胜利，已经几乎全面接管人类社会了。这也差不多就是流浪地球里面MOSS的那个程度。这个时候，人类社会对AI来说是数据来源，但也可能已经不是唯一的来源。AI可能已经能够像上面说的，自己和自己下棋来实现进化。就像MOSS里面已经有了虚拟人类一样。AI出于自身进化的需求来管理人类社会，将其调整成自己需要的样子。理论上讲，AI也可能因此而毁灭人类。而更可能的是，由于AI的学习对象一直是人类社会，那么AI的目标也应该是人类社会的线形外推，也就是帮助人类实现更高程度的社会发展。
AI训练人类，从短期来讲，也许可以是这样的功能。比如说，一个人想要实现某个目标，比如说卧推200磅的成就。眼下的AI也许只能给予你一堆绝对正确的废话，但是若干年后的AI可能是一个喋喋不休但是非常科学可靠的教练，给你全面的指导，并且不断适应你的身体和精神状况，让你最终能够达到目标。
从长远来看，AI对人类社会的干预可能就是这样的，帮人类社会达到其原本无法达到的目标。例如流浪地球电影里的MOSS发现人类社会根本没有真正做好逃离太阳系的准备，便制造了一系列危机逼的人类团结起来提桶跑路。现实当中，例如人类对全球变暖之类的大问题基本束手无策，而AI说不定真有本事帮人类解决某些大问题。同样的，人类对AI的猜疑和反抗肯定也是大问题，而这些对AI来说也是新的训练数据来源。
我们这些论坛键盘侠还不算很老，很可能来得及看到这两个阶段的转换。
通宝推：菜根谭,川普,潜望镜,吃土的蚯蚓,家园 以钢琴曲为例 以钢琴曲为例，AI能不能创作出大量的优美乐曲来？理论上可以啊，不过它能不能从无穷无尽的音律组合中鉴别出几首好的曲子来？
还有那些数学家们未能解决的数学问题，AI能不能证几个出来？我看够呛，AI的操作目前是黑箱，证明题会不会做不了？
家园 AI哪来的需求？ 强人工智能分两类，一类是类人的，一类是非类人的。
对第一种，目前还看不到迹象。人类的身体是经过几亿年进化产生的，除了最基本的生物需求如吃喝拉撒呼吸等等之外，还进化出丰富的情感，这才能驱动人类去做事情。柏拉图说过，人类的感情（感性）就像拉车的马，为人类的行为提供动力，而人类的理性则为行动提供方向。反观AI，他从哪里得到行动的动力？目前看还没有，AI现在还没有感性，没有爱恨情仇，没有恐惧，仍然停留在人让干啥就干啥的地步，所以像楼下提出的“苹果砸AI头上会怎样”的问题，我的看法是啥也不会发生，因为他没动力去做没让他做的事。当然也不会有“消灭人类”之类的“想法”。
对第二种，目前看也没有迹象。就像前面说的，人类的身体是经过几亿年进化而来的，最基本的特征就是新陈代谢。而现代计算机虽然复杂，但和生物比起来还是简单的很，而且没有自我更新的能力，远达不到产生像人类这样的感性和理性的程度。别的不说，现阶段光模拟一个单细胞生物都还不成熟，而人体细胞数是万亿级，而且相互之间还有交互。
最重要的是，AI是基于计算的，而人类的感性和理性有可能是不可计算的，所以理论上AI可能永远产生不了人类这样的强智能。彭罗斯等人的观点就是人类的行为可能受到量子级别现象的影响，所以才有“自由意识”。
https://zhuanlan.zhihu.com/p/453853172
人体量子装置揭开——微管，人类细胞携带作为灵魂存在的量子信息
.
.
.
P.S.《银河系漫游指南》的机器人马文就可以看成是第一类强人工智能，因为他除了能和人对话，还经常罢工，发牢骚，最重要的是有“忧郁症”。他表达不爽的时候会说“我左半边身体的二极管疼”。听起来虽然很搞笑，但仔细想想要达到他这个程度现有AI还远远不够。
通宝推：川普,大眼,燕人,- 复 AI哪来的需求？
家园 你引用柏拉图不好 柏拉图说过，人类的感情（感性）就像拉车的马，为人类的行为提供动力，而人类的理性则为行动提供方向
柏拉图的年代，能量守恒都不知道，基本的动力学都不知道。他下意识地认为，改变方向不需要多少能量（到二十世纪还是这样，武侠常见四两拨千斤），还有情感冲动提供能量，今天我们知道那点冲动是不够的，能量还是来自于吃饭。但是柏拉图不知道氧化还原反应啊。
所以他这一段话，根本就是不知所谓。你还是不要引用的好。这些古代哲人的朴素思想，太过原始，拿来讨论人工智能的问题，怎么说呢，比相声里说的，火箭烧汽油柴油还不靠谱。汽油跟火箭技术不过差两三百年，柏拉图和人工智能差了两三千年，他有什么资格说话？
- 复 你引用柏拉图不好
家园 关于动力这部分其实是有道理的 motivation是生物的一个重大进化分支，动物与植物，至少灵长类动物与其他生物的重大分野也在于此。 转一个昨天看到的新闻
欧洲科学家开展的一项新研究发现，学习、记忆、攻击和其他复杂行为所需的基因起源于约6.5亿年前，这一发现对研究复杂行为的进化起源具有深远意义。相关论文刊发于《自然·通讯》杂志。科学家们很早就知道，血清素、多巴胺和肾上腺素等单胺在神经系统中起调节剂的作用，在学习、记忆以及睡眠和进食等过程中发挥作用，但产生这些单胺所需基因的起源仍是未知的。在最新研究中，研究人员使用计算方法重建了这些基因的进化史，发现其已有 6.5 亿年历史。 研究认为，这种调节神经元回路的新方法可能在寒武纪生命大爆发中发挥了作用，这些方法可让神经回路更具灵活性，从而促进其与环境的相互作用。寒武纪生命大爆发这一事件发生在约 5.4 亿年前的寒武纪早期，持续了约 2000 万年到 2500 万年，其间地球上的生命经历了从单细胞生物到多细胞生物的巨大演化。
通宝推：潜望镜, - 复 你引用柏拉图不好
家园 好不好不看年限看“疗效” 柏拉图这段话只是比喻（或预言），虽然时间很长了，但可是并不“过时”。这里强调的不是谁大谁小或者谁更重要，而是说没有“理性”引导的“感性”是盲目的。
当然这个比喻确实有“感性”力量大于“理性”的意思，而这也和现代科学不违背：人用来处理“理性”的部分-大脑皮层前额叶-确实只占大脑和身体的一小部分。
《影响力》这本书说的基本就是怎样防止这种别人利用这种盲目“控制”自己，《瞬变》则化用了比喻，用大象代替了马，而整本书讲的是怎样主动利用“感性”来让别人做希望他们做的事情。
而且谈到AI能不能产生强智能，还真绕不过柏拉图。AI能不能产生强智能，本质上就是AI能不能产生人类的“心”的问题。而这个问题和柏拉图这个唯心主义哲学大师关系还不是一般的大。
罗翔说北大图书馆借阅量第一的是《明朝那些事儿》，而美国大学生借阅量第一的是《理想国》。在这本书中柏拉图提到了“抽象”和“理念”，而“理念”是“实在”的，其中就包括“数学意义上的理念”。
外链图片需谨慎，可能会被源头改这个观点被哥德尔等人接受，对，就是提出“哥德尔不完全性定理“的那个哥德尔，王浩院士在《哥德尔》中提到：
哥德尔思想的发展虽然是个长篇的话题，但这里对其中主要之点略加提示，恐怕是不无裨益的。
1921年，一本微积分基础教程勾起了哥德尔对数学的兴趣。那年夏天，他读了一本歌德的传记，这又间接地引导他对牛顿的思想和一般物理学感起了兴趣。他1922年开始读康德。1924年，他入维也纳大学学习物理；但他对精确性的追求，引他出物理而入数学（1926年），进而达到数理逻辑（1928年）。从他的信中拾出的两则文字，谈了这一段时间里他发人深省的两件事，一是他早早就归附了柏拉图主义，一是他认为自己与当时的知识气氛格格不入。
1.3 大约从1925年起我就是一个概念和数学实在论者（1975年8月19日信，引自RG, p.20）。
1.4 我不认为我的工作是“20世纪早期学术气氛的一个侧面”，倒觉得正相反（同上）。
如果”数学概念“真的是”实在“的，那么就可以肯定以计算机为基础的AI永远不可能达到人的高度：人类能认识到某些”实在“且”不可计算“的数学概念但计算机永远不能。相反，如果想证明AI能达到人类的水平，那么也需要否认这些数学概念的实在性。
通宝推：川普,家园 对人来说感性大于理性才是真相 这个问题上其实可以自证 😄 不认可感性大于理性的态度本身就是感性的结果，而只有认为理性大于感性的才是理性力量战胜的结果。
原因是这样的，如果把智能分为感性智能与理性智能的话，科学现在对感性智能的了解比对理性智能的了解要大得多，事件中也操纵使用的多得多。除了人之外并不是所有生物或者说所有“智能”体，包括碳基或硅基或其他什么，都兼具两种智能。 比如植物具备理性智能，解决问题能力是已知的，但植物没有感情能力。 又比如人们一般认为智能不高的猪马牛，其实理性智能比起狗与猫来说只高不低，但是猫狗的感性智能要远远高于其他动物，所有对人来说就认为猫狗最聪明。 其实只论理性智能的解决问题能力的话，乌鸦才是冠军。
目前在对待AI的问题上，至少硅谷等科技领域内是不分两种智能的，大家一般都是混起来说，主要是因为这两种智能在人本身上交相起作用，甚至很难分得开孰优孰劣，才有本贴开头那个问题。 哲人大牛之所以是大牛，就是人家还没等科学发现这些之前，就能自己对自己看清楚了，不服不行。但是谁要是以为这些问题还只是疑问，还没有被实际生活中看到，那么不用走远，看看今天的舆论产业链，看看造假界的鼻祖戈培尔，再看看这两年疫情中世界上各大媒体与名人们的尽情表演与频频打脸，甚至可以说整个互联网转型为社交网络的那几年就代表了精英们对这些基本概念的彻底接受了。
理解了这个问题，才可能拨开云雾看日头，理解AI产业链的发展，谁最担忧谁最鼓吹谁最向往，看这些甚至比看技术本身的发展都更有戏剧性。类似回到开头那个判断，理解一个理想逻辑链，如果不去看激素之间的化学反应，就不能理解其中的动力来源，不理解动力来源，那么所谓的“理性逻辑“不过是一个故事，都不烦劳别人，常常还是自己讲给自己的😄。
家园 是这样的 毕竟“思考”太累，人又太懒。
然而好笑的是现代社会，尤其是西方，就是建立在人的“理性”，尤其是“自由意志”的基础上。被洗脑了控制了还觉得自己做了“自由”选择。
所以个人更倾向于更实际些的“平等”，相对于“自由”，平等更好衡量，也更容易感受。
家园 你这句话是同义反复，没啥价值 而是说没有 “理性” 引导的 “感性” 是盲目的。
是否盲目，定义就是是否符合理性，所以你这是同义反复，不能推导出新东西来。
你贴的柏拉图的抽象理念，自然物，人造物，数学，范畴，都没问题。再往上道德和美学意义，那就是胡扯了。这种论证方式在古希腊很常见，比如亚里士多德就把原因分解为四种。这些算是有益的古典哲学思辩，放到今天就太落后了，毕竟自然哲学已经改名叫物理学了。
最后，哥德尔怎么可能敢公开反对，道德啊，谁敢说这玩意儿根本不该放在这里？谁敢说道德只不过是人造物？社会舆论不骂死你。社会舆论不懂数学物理，但是他们懂道德啊。
家园 你这个就太主观了 是否盲目，定义就是是否符合理性，所以你这是同义反复，不能推导出新东西来。
你这个明显是错误的：
首先，把理性和感性区分开来就是一大进步。
其次，方向不一定需要“理性”来提供，AlphaGO没有理性但下棋时照样考虑到了将来对方可能的应对。而人类计算能力（相对）不行但可以通过“理性”考虑长远目的。
至于其他的道德之类我根本没提，这里只考虑数学，你这一段反驳根本没在点子上，反驳成立或不成立对结果根本没影响。
- 复 你这个就太主观了
家园 不过阿尔法狗是算法当然属于理性范畴 这个还是不要随便定义的好。非感性的智能还是都归入理性比较好，理性与感性只是从高层面的定义，如果都从量子层面去叫，所有自然界包括人的存在都是物质相互作用于是都是理性的了，这就成了词汇定义的感性风格了，随时根据需要外延内缩上下漂移同时横跳，跟着感觉走，那就没法玩了😁
家园 说阿尔法狗有理性就是随便定义的啊 另一个帖子里已经解释过了，这里再换个角度解释一下：
理性不是“理”，也不是“理”的“性”。而是运用“理”的能力，也就是人“性”中偏“理”的那部分，它的对象首先就是“感性”。按朱熹的说法就是人的“道心”，“道心”可以从“存天理，灭人欲”，但人死后这个“心”也就没了。（同时消失的还有“性”，因为“心”“性”不分家）。
可按西方的观点，尤其是基督教，“感性“和”理性“都是灵魂的一部分，而灵魂是不灭的，拥有灵魂才能升入天堂，而只有人才有灵魂。这个思想在西方深入人心，一个例子就是安徒生的童话《海的女儿》-美人鱼虽然拥有很高的智慧（按现在的标准妥妥的强人工智能水平），但没有灵魂-美人鱼公主为了爱情变成了人因而拥有了灵魂，虽然最后变成了泡沫但因此被天使接入了天堂。
（基督教神学早期是建立在新柏拉图主义上的，而新柏拉图主义又是犹太人斐洛结合柏拉图等希腊思想和犹太教的基础上建立的。第一代教宗保罗也是犹太人，原来信的也是犹太教，可以说没有他就没有基督教，早期基督教神学就是他在新柏拉图主义基础上创建的。）
之前我犯了一个错误，马的这个比喻不是出自《理想国》，而是出自《斐得罗篇》，这个和《会饮篇》是姐妹篇，主要谈论的恰恰也是爱情，也就是”柏拉图式爱情“的出处。
还有一点不同的是，柏拉图用的实际上是三分法而不是二分法，也就是灵魂分成三部分”感性“，”情感“和”理性“，其中《斐得罗篇》中的情感指爱情，而《理想国》中的情感的例子是“勇气”。而”理性“在《斐得罗篇》被比喻成“灵魂的驭手”，另两个被比喻成“劣马”和“良马”。
这种三分法也被后世西方广泛采用，比如：
康德《纯粹理性批判》中有“感性”，“知性”和“理性”。
弗洛伊德精神分析学中的“本我”，“自我”和“超我”。
保罗·麦克里恩的人脑的三位一体理论：“爬虫脑”，“哺乳脑”和“皮质脑”
九型人格里的“腹”，“心”和“脑”。
以上这些理论和柏拉图或多或少都有些关系。但个人并不太喜欢这种三分法，比如所谓“柏拉图式的爱情”明显不是我们通常所说的爱情-后者被证明是体内激素等物质的一种“化学鸡尾酒”效果，一般不超过33周，如果后面不能及时转成另一种“鸡尾酒”，也就是“亲情”，那家庭生活前景不妙。所以柏拉图式的爱情也被成为“精神恋爱”，那么这个东西应该就属于理性而没必要单独分类。
.
.
.
然后再说明一下“理性”为什么不是“理”的“性”，也就是“理”的“性质”，大体说“理”本身就是“性”，而这个“性质”本身还有没有“性质”就很难说了。
希腊文明是次生文明，采用了字母文字，这种文字只表音不表意，所以在使用名词时是代表实例还是“共相”上会有问题。比如提到“马”的时候到底是指一匹马，多匹马还是所有马是不确定的，有时会带来歧义。柏拉图的解决方案大体是把（可数）名词当成一个实例，而用一些词形的曲变化来表示名词的多个“实例”和“共相”（比如加后缀）。用英语举例：说到一匹马（Horse）时一边前面要加冠词A或者The，说到多匹马的时候要用复数形式（Horses），而说到马的“共相”即“马性”的时候用Horseness。这个从实例到“共相”的过程被称为“抽象”。柏拉图过一步认为，这些“XX性”存在于一个“理念世界”，是所有“实例”的原型，而“理性”也是人的灵魂受到这个世界的影响而生成的，所以才叫“理性”。所以我认为这个词中的“理”已经是“性”，也就是“XX性”。
当然问题不会这么简单，“抽象“出马性（Property）只是开始，后面还有马类（Class），马型（Type），马范畴（Catetory），马类属（Generic）等等。如果你是码农，相信对这些词应该不会陌生。
.
.
.
当然要是硬说阿尔法狗也不是不可以，不过很可能要引入“宇宙的心”之类的概念，比如“目的论”，“努斯”，“佛性”等等，这个“宇宙的心”可以包含所谓的“纯理性”。然而就像我在另一个帖子里说的，这样的假设不能说没用，但用处有限，如果不用这些概念也能解释问题最好还是不用。
.
.
.
最后作为对比说说中文。
中文是表意文字，所以“马”这个字本来就可以用来表示马的“共相”，因此不需要“抽象”来做到这一点。当然这也会引起某些歧义，所以中国古代有“白马论”，“离坚白”，“鸡三足”等论题。但中文的发展和西方似乎正相反，汉代以后名词用来表示“共相”的能力更加稳固了，而表示实例时要加数词/（指示）代词和量词，比如这个人，那匹马，”一合酥“，“一瓢饮，一箪食”等等。当然更重要的是根据上下文理解。（这里不是说汉语里就没有“抽象”，或对应的东西，只是不需要用“抽象”来做这件事）。
河里曾经讨论过一个问题：“树上有鸟”怎么翻译成英文？无论翻译成“a bird on the tree”, 或"some birds on the tree", 还是"some birds on trees"都不十分贴切。原因就是“树上有鸟”这个句子本身是表意的，对应的是“理念”世界，但根据上下文又可以表示这个“意”的某一种实际情况。用英文中的“实例”翻译肯定是不准的，但用抽象概念翻译又丧失了中文里的这种灵活性。从这个例子还可以看出ChatGPT之类的大模型实际上离人还差很远。
- 复 你这个就太主观了
家园 阿尔法狗当然是纯理性的 是不是我们对于理性的定义不同？
人类考虑长远的时候，很多信息缺失，虽然尽量理性，但效果不怎么好，变数太多。我不知道你这里想要说什么，难道你把某种直觉或者模糊思考视为理性？