主题：【原创】AI对人类社会影响能有多大？ -- 真理
家园 基本上同意 由于人类的语言其词汇本身具有高度的抽象性，词汇的空间也是很稀疏的，这么复杂的代号，chatgpt也能“像模像样”地处理，至少看上去不傻，的确是个很大的突破。但也就是”不傻“而已，不要期望太多。
但是让chatgpt 变得比较正确，其实也”容易“，就是清洗喂给它的材料，把大量，或者说绝大多数是错误的，或者摸棱两可的训练材料修改成正确的，那么chatpgt也会比较正确。这个在轻度编程领域，得到了验证。由于编程这部分使用的训练材料质量很高，是历年来大量程序员”清洗“过的，因此回答的质量也是比较高的。在其他一些领域，清洗涉及到大量的人力物力，并不是一个容易的工作。
chatgpt 提供了一种基础，真正有用，还必须特化。我认为华为的使用方式：通用大模型，然后在各个领域的特化，才是正确的方式。
家园 就算是大力出奇迹，那奇迹呢？ 伟哥、青霉素、硫化橡胶、微波炉的发明是科学家在实验过程中“无意间的惊讶的发现”。AI号称大力出奇迹，不眠不休就是干，人类做十次实验的时间它已经做了百亿次，照理说像上述发现青霉素这样的重大成果应该是纷至沓来目不暇接一大堆啊，对不对？但是它们在哪儿呢？
AI只会关注设定的监测指标，如心脏血压，不会关注非监测指标，如勃起。
正如我们赚不到认知能力以外的钱，AI也做不了人类认知能力之外的工作。
家园 苹果砸到AI头上它能归纳出万有引力定律不？ 大家都知道，AI最拿手的是“穷举工作”，例如人类已经找到了圆周率的计算公式，就让AI一直算下去，对于人类尚未找到规律的事物，让AI去穷尽每一种可能性:新冠+鹤顶红、新冠+断肠散、新冠+敌敌畏……
确实很可怕，但是只要它不能自己找出规律，那就不算具有颠覆性。
家园 恐怕是可以的 万有引力并不神秘。开普勒三定律在前，牛顿开发了数学工具，定义了动量的导数，那么用微积分语言描述一下开普勒定律，公式就出来了。而且从球体表面积出发，也可以得到距离反比。
现在的不少高中生都可以完成这项功课。
苹果啥的，是小学生故事，跟爱迪生的大镜子一样，别深究。人类的智力水平也就那么回事，人工智能真没有做不到的。
- 复 恐怕是可以的
家园 就是对AI是否有可能发展出抽象提炼能力存疑 很可能AI永远也不会具有抽象提炼归纳总结的能力。下围棋它是战胜人类了，但是没有总结出什么致胜诀窍数学公式出来，对人类的围棋技术的提高也没有帮助。生物科技等等人类自己没搞懂，寄希望于让AI帮人类搞懂，总觉得这个想法不靠谱。
或许抽象提炼能力AI如同永动机一样，是人类美好的不切实际的违背客观规律的一个幻想。
家园 可能AI不需要归纳 我其实也对“AI是否有可能发展出抽象提炼能力”存疑。但是还有一个想法。“抽象提炼归纳总结的能力”如果不是解决问题的必要条件呢？我是说因为人的算力有限，所以需要这个能力，从复杂的事务中归纳出来简单的规律。这个是很厉害。如果AI算力可以轻松达很多，对于它来说，任何神经网络学习出来的拟合模型，就是一个公里。无需证明，也不能被证明的公里。我想到可能适用的两个证据。一是韩国人通过AI指挥自己下棋。AI没有总结出来可以被学习的棋谱，但是可以赢。对于拿奖，这就够了。还有一个，智商高（算力高）的人认可的公里，给智商低的人是讲不清楚的，智商低的人也理解不了。比如雨人的弟弟没办法学会如何计算赌局，但是这不妨碍他利用雨人赢钱。如果顺着这个思路往下想，还有一个有意思的事情。从适者生存的角度出发，环境是人的决定因素。一个人算力的大小决定了他能适应环境的复杂程度。如果一个人（AI）的算力足够大，那么它可以适应所有的环境。反过来说，两个适应所有环境的人，其实是一个人。所以，如果把人传到网络，且允许自由迭代，算力会让所有的人变成一个人。这里也有两个列子，比如RICKY的情人UNITY，比如EVA中人类最终完成补完的形态，或许都是AI可以实现的。如果顺着这个思路再往下想，还有一个更有意思的事情。对于解决问题来说，相对与算力，感受环境的变化或许是更重要的环节。神经系统本身就是从感知环境变化的细胞演化来的，而不是单纯负责算力的细胞。这里就不得不感叹人体的精妙，感受非常多，但算力只是刚刚够用。
家园 你说的这也是一种思路but 不能提炼规律就只能像破解银行卡密码那样逐个排列组合去试，也就是几秒钟解决问题，这也是一种思路，可能永远只能这样，大脑算力相对于AI算力，就相当于手臂相对于挖掘机。
看过一个纪录片《神奇的合金》，金属的排列组合会带来奇异的崭新的特性，比例改变都大相径庭。例如
61%的铁+2%的碳+0.3%的镓+4.39%的钨……
地球上有金属元素90种（包括硼、硅、砷3种半金属），那么这个运算量非常大，而且还远远不止，例如如果不是偶然发现，谁知道“橡胶+硫”以后，会性能大幅度优化？那这样看来就不是90种物质的排列组合了，是几万几十万种物质的组合。还有温度湿度淬火要不要用催化剂这些工业know-how，不找到“规律公式”一个一个试得试到天荒地老。
家园 是的，单纯增加算力绝不是最好的方案 AI在可计算的应用中表现出比人脑更强大的能力。例如，在可以进行规则计算的情况下，AI在天气预报等领域能够提供更准确的结果。
然而，如果AI的计算能力不足（这个时候人脑的算力也肯定不够用），就需要通过其他方法来解决问题。这个时候人的优势就体现出来了。例如，在围棋等有限规则的竞技中，AI可以获胜。但在无限维度的竞争中，就无法通过简单的计算来解决问题。现实情况比目前可以模拟的要复杂得多，许多复杂的情况无法通过模拟来完全理解。在生物医药领域，AI的大数据分析仍无法替代具有尽可能均一环境变量的动物实验，更不用说临床试验。想到一个生物领域的例子，比如组成DNA序列的碱基对也很多，把这些可能性完全穷举出来的计算量，可能不输90种金属元素的组合。但是通过其它检测方式，也可以找到疾病发生的原因。
说到模拟，AI目前存在一个重要缺陷，即缺乏自主感知器官。它的感知完全依赖于数据输入，一旦缺少关键维度的数据，计算结果就变得无效。典型的反射弧包括感受器、传入神经、中间神经元、传出神经和效应器。从这个流程顺序来看，感受器是首要的。根据已知的演化过程，感受器的演化优先级高于其他部分。例如，视觉细胞的出现先于处理视觉信号的神经元。此外，大多数动物的感受器官（或细胞）的总体数量在体积和重量上都超过负责计算的神经细胞。这是演化的结果，它提示我们解决问题的首要任务是增加感受器，从实际情况出发，实事求是地解决问题。
电影《雨人》中的主角就是一个反面例子，尽管他的计算能力很强，但其他方面的感知能力却被削弱了，因此不能自理。如果按照算力和感知力在社会分工中的优化方向来划分人群，劳心者（高层）可能更偏向于算力优化，而劳力者（底层）则更偏向于感知力优化。但如果只优化算力而缺乏感知力的辅助，问题仍然无法解决，类似于明末的情况。同样，如果只优化感知力而缺乏算力的辅助，组织形式将很低效，也无法解决问题，类似于太平天国。所以，三个裨将可以胜过诸葛亮。我觉得，AI目前的发展趋势，首先可以代替掉的是偏算力优化的职位，如果底层可以掌握算力的话。
通宝推：贼不走空,
家园 我觉得你说反了，是人类的智力不足以理解人工智能的抽象 阿尔法狗下棋赢了确实就是数学公式，只不过这个数学公式比较复杂，如果的分支树比较多，超过了人脑理解的极限。
你看人类是怎么处理数学问题的？引进各种函数符号，三角指数对数导数积分等等。如果不用符号呢？量子力学根本就建立不起来。现在阿尔法狗本身也就是一个巨大的函数/算法，只不过复杂程度比较高，人脑难以理解和记忆。
现在的问题是，物理学/自然科学的发展遇到了某种阻碍，对于复杂系统难以处理，人脑似乎不够用了。而计算机作为辅助，一方面可以发挥巨大的作用，另一方面超过了人类的掌控。将来对于生物、经济学、社会学的复杂问题，可能是人工智能理解了，人类却不理解。这是完全有可能的。人类又不是什么天选之子，完全有可能被进化的下一阶淘汰。
家园 非原生智能的封印 以真善美三个层次来分析，人工智能还仅仅处于“真”这一代表确定性的单一层次，的确人工智能的复杂度已经超出了人脑的理解能力，但也要看到人工智能需要人类提供“善”来作为“真”的初始化条件。人类提供给人工智能用以初始化“真”的“善”，这个“善”是人类投射出的“善”，而非属人的“善”的本体。“善”的本体与人类投射出的“善”，两者之间的关系可以借用海德格尔的存在与存在者来理解。
现在可以从两个方向追问。保持人工智能的属人性，人工智能是否能把握到属人的“善”的本体；破除人工智能的属人性，人工智能是否能把握到属己的“善”的本体。直白地说，人工智能可以做的仅仅是依据人类投射出的某一具体的“善”作为一个价值尺度，以此发展出一套对应的工具性的“真”，不管这些工具性的“真”有多复杂，多令人难以理解，人工智能都缺失一个属人的或属己的生生不息的价值体系。本质上人工智能与一辆启动了的汽车并没有区别，工具性的“真”再复杂，甚至也不如一只蚊子在真善美层次上的体系完备。
家园 阿法狗下围棋的原理很简单 就是个暴力，不算什么智能。AI能短时间内破解你的银行卡密码，这是智能么，我觉得不是，六的十次方一个一个试就行，优化一下算法，先试六个零、六个八、生日数字…效率提高一千倍。
围棋棋盘上任何一个落子都会造成其他位置的“气”的变化，设计一个公式计算“气”就可以了，让我四个子，整个盘面的“气”完全变了，我或许可以挑战世界冠军。它看起来很智慧只是因为它一秒钟可以进行百亿次计算，实际上气的计算与逐个试密码一样，都是很笨的办法，就是靠暴力，大力出奇迹。
家园 “AI能短时间内破解你的银行卡密码” 这依赖于给阿尔法狗写程序的人的思路。是人命令机器作如此思考的。
哪怕是暴力试错法，也是人写的命令。于是AI就开始一个一个试，当然速度极快。
但是数学有插值法，能提高试错的效率，不需要一个一个试。这样AI做起来更快。
所以苹果砸在AI头上会怎样？看那个软件设计师如何给AI对于此事件的程序。
有可能该AI坐在那里不动。没有反应。它又不疼😁。
也有可能该AI一跃而起，倒拔垂杨柳，把苹果树给掀了😄：它发现了敌人，准确判断敌人的存在形式，完美地实行了斩草除根的杀敌。
家园 秦始皇时期就制造出了常温超导体 -- 有补充 有可能秦始皇时期就制造出了常温超导体，嬴政命令工匠们打造坚硬锋利不易折断的刀剑，工匠们各种尝试，在公元前240年的一个极其平常的上午，一个普通工匠研制出来一段常温超导材料，结果由于硬度与韧性不过关，超导体被扔掉了，该工匠还被痛打了一顿。
这段我模拟编写的万艾可诞生的故事，充分证明AI不能胜任超出人类认知能力的工作。两千年前的人不理解超导性这个概念当然也就不会去监测这个指标，那现在的人们呢，显然也是一样。
作者 对本帖的 补充(1)家园 第四次工业革命前兆中科院物理所复现韩国LK-99的实验成功 -- 补充帖 看看本贼的世纪预言吧，果然常温超导体在秦始皇时期就有了制备条件。
LK-99的制备几乎没有难度，专业的词汇这里就不讲了，你可以简单粗暴地理解为，只需要将铅、磷等多种材料按一定比例进行混合，然后放进高压锅中煮几天，就可以得到铅磷灰石，也就是LK-99。
整个过程简单到高中生都可以完成，复现难度为0，没有甩锅空间。
见前补充 4915616