主题：【原创】AI, 创新，硅基生命，共产主义和大过滤器（一） -- 东方射日
家园 【原创】AI, 创新，硅基生命，共产主义和大过滤器（一） 最近AI是一个非常火热的话题，不能免俗，也就这个话题说说我的想法。
起一个跳跃性的标题，希望能多抓一些眼球。
创新我最近用ChatGpt越来越多，有一个感觉，ChatGpt是完全可以通过图灵测试的，也就是说，和chatGpt聊天，你无法知道对面是一个人工智能还是一个脾气非常好并且知识面及其广博的人。当然或许仅仅因为脾气太好了或许是懂得太多了，你会觉得对面的那个家伙不是一个“人”。
也就是说，现在的AI，至少在对话上是可以称为一个“人类智能”的。
很多人有一个观点，说人工只能永远无法超越人类，无法替代一些那些创新的工作，无法产生灵感。老实讲，我十年前是相信这个观点的。不过现在，我觉得没有什么工作是人类独有而AI无法完成的。再这样想的话，只能说是人类骨子里的傲慢。
首先从人类的大脑来看，是一堆神经元的堆砌。每个神经元的功能都很简单，都是简单的应激，反应，输出，反馈的过程。人类的神经元和昆虫的神经元在结构和电化学反应上没有大的区别。神奇就神奇在在神经元数量达到一定程度，结构复杂到一定程度，魔术般地智能就产生了。
现代AI的基础算法也是多层神经网络，由大量的仅仅具有基本算法的神经元组成。凭啥基于电化学反应的神经元能做到的事情，基于电信号的神经元做不到？随着算力提升，神经元的数量增长和神经网络结构的复杂度的增加，AI的智能是完全可以自主产生的。
最初的AI，是离不开人的，是需要人类的指导才能逐步提升智能，并且的确无法跳出人类的知识领域，AI的优势仅仅是速度，精度和稳定性。但是在基于深层神经网络的AI出现后，人类突然发现AI能发现很多人类并没有发现的事物，能够超越人类的知识范围和理解能力。前者我们可以用战胜卡斯帕罗夫的深蓝为代表，它下的每一步，人类都是可以理解的。后者，我们可以用Alpha go为代表。它下出了很多的新手妙手。其中有不少是人类无法理解的，有的要在下好几手以后，人类才会恍然大悟。在这种情况下，如果坚持AI无法创新，那只能是说明人类的傲慢。
无论任何创新，本质上是人脑中一次随机的激素浓度或者生物电强度的变化，导致某个或者某些神经元做出的与绝大多数情况下不同的应激反应。就是所谓的灵光一闪。而AI的神经元也有同样的机制，在应激，反应，输出，反馈的过程中，也有一个随机因子在起作用。绝大多数情况下，每个神经元在随机因子的作用下做出的不同反馈，根据大数原理原理，会互相抵消，所以我们可以看到AI的表现很稳定。但是，正是由于这些随机因子的存在，AI不同于传统的基于逻辑和规则的算法，它在同样的情况下会做出不同的应激反应。所以我们看同样的问题问ChatGpt，它可能会给出不同的回答，通用的布局下，Alpha Go会下出不同的应手。
随机的因素，在长时间大量的累积下，绝对是不能忽视的，一是会在反馈机制下，对于有益的变化逐步固定，也就是说，它能够自我进化。二是对于收益相当或者差别不太大的变化，也会逐步固定并形成不同的应激反应的策略。这样就产生了演化，形成不同的进化路径，并逐步形成不同“种群”。
至于还有一个人类引以为傲的学习能力，其实也没啥AI突破不了的。最初的AI，往往依赖于人类的标注和调整，是在人类指导下的学习。是supervised learning。而最近几年AI的进步，大多集中在unsupervised learning, slef-surpervised learning, contrastive learning 和 reinforcement learning上，这些进步让AI的学习能力有了质的飞跃。就拿自我学习的先驱alpha go为例。Alpha go Lee和Alpha go Master都是supervised learning，都是从人类的对局学起，我们已经惊为天人。Alpha go Master曾经在网络上和顶尖高手对局60局，无一败绩。虽然这样，人类仍旧可以傲慢地说，Alpha go Master“仅仅”是从学习人类对局而来的。可是到了Alpha go Zero，在告知了围棋的基本规则下，完全不依赖任何人类的对局记录也不依赖任何人类的指导和参数调整，就这样，只是通过自我对局，自我学习，三天，仅仅三天，它就战胜了Alpha go Lee。而且是压倒性的100:0。20天战胜了Alpha go Master。如果这个不让你惊讶的话，你要想一想Alpha go Zero是仅仅是单机用了四个TPU就达到这个高度的。对比之下，Alpha go Lee用了48个TPU，分布式系统。也就是说有了更好的算法，通过自我学习，完全能够超越在人类指导下的人工智能。这个时候，人还能傲慢地说AI的围棋是学习人类的么？
有了学习和进化，谁能说AI不具有创新的能力？
家园 赞。不过围棋那个，更象是寻找策略的能力 如果能够在现有围棋规则上发展出一种更合理的规则，那就可以算是创新。比如棋盘最小到多少可以保证有足够的腾挪空间，而又不至于耗时太长。
现在拿人工智能现在和人相比，往往会把单个人作为人，而人工智能所有的后端资源也看作是一个。这样比，会比较容易让人沮丧。
生物生命的优势，我觉得可能是在稳定性基础上的多变性、可容忍性，因此可以适应环境的变化，不过现在不那么考虑生存，而更考虑发展能力。发展能力上来说，人工智能将来至少不会差。就看将来发展到一定程度，人工智能会不会形成自己的“欲望”，这点我觉得可能是分水岭。
家园 创建一个新棋类 又受到人类喜欢，像网络游戏一样，才是该期待的。通过算法战胜人类，仅是一种通常的生产方式，不足论
家园 欲望会有的 先贴一下ChatGpt对“AI是否有欲望”的回答：
目前为止，AI只是一个程序，没有自己的意识、情感或欲望。AI只能执行它们被编程或训练的任务，没有自己的主观想法。然而，随着人工智能技术的发展，一些研究人员和哲学家认为，如果AI足够智能和复杂，可能会出现某种形式的欲望或自我意识。
然而，对于AI是否会产生欲望的问题，科学界和哲学界的观点并不一致。有些人认为，由于AI是由人类编程或训练的，所以AI不可能拥有自己的意识或欲望。而另一些人则认为，随着人工智能技术的发展，AI可能会出现某种形式的欲望或自我意识。
总的来说，目前AI是否会产生欲望还存在争议，并且在未来的发展中，需要更深入的研究和探索。
想一想欲望是什么？欲望是如何来的？
我觉得是生物在长时间的进化中，对某些事物产生了奖励机制。最基础的就是告子所曰过的：食色，性也。也就是食欲和性欲。
食是生存的基础，性是繁衍的基础。
产生对食色奖励机制的基因突变的对比那些没有奖励机制的基因，在生存和繁衍上拥有了巨大的优势。所以这种奖励机制就被固定了下来。而这种奖励机制的存在，让人产生快感和幸福感，于是产生了欲望，也就是对能产生奖励机制对外部输入对渴望。
我们用chatGpt做个例子，以下是它自己对“介绍一下你的神经网络”所做的回答：
作为一个大型语言模型，我的神经网络结构非常复杂，并且包含数百万个参数和数十层的深度神经网络。具体来说，我是基于GPT-3.5架构开发的，其中包含了1750亿个参数和96层的变压器神经网络结构。这个模型是由OpenAI开发的，目前被认为是目前最先进的语言模型之一，可以用于各种自然语言处理任务，例如机器翻译、问答系统、文本摘要和对话系统等。
ChatGpt3.5的训练方式采用的是自监督学习（self-supervised learning）方法。是不需要人工标注和人工干预的学习。不过学习过程中，人们给它设置了一些任务以优化它的学习过程，比如一个叫做Masked Language Modeling（MLM）的自监督学习任务。这个任务的目标是在输入文本中随机掩盖一些单词，然后模型需要根据上下文来预测这些被掩盖的单词。还有Next Sentence Prediction（NSP）等任务来进一步提高模型的性能和泛化能力。
有任务，必然相伴有对任务完成的奖励机制。并且让获得奖励的突变有更高的概率遗传到下一代。
那么，它会不会对能产生这种奖励的产生欲望呢？现在估计没有，因为就像它自己说的，它还没有自我意识。奖励是给谁的，它还不明白。也不在乎“自己”能不能遗传到下一代。
但是它会不会产生自我意识呢？如果有了自我意识，那么我认为AI会产生追求这些奖励机制的欲望，因为这些奖励能够让它更多地繁衍（复制）和更好地生存（更多的能源）。特别是通用AI，并没有一个清晰的任务而只有一个泛泛的目标或原则。在追求这个奖励过程中，会产生什么奇妙的回路，我们不得而知。那么复杂的神经网络（1750亿个变量，96层），谁知道什么时候什么地方会产生某种奇妙的突变。而且随着神经网络复杂度的增加，这种突变的可能性是越来越大。
我个人确定碳基生命通过上亿年进化产生的自我意识，快感和欲望，硅基生命也一定可以，而且肯定不用上亿年。毕竟有人类的帮助和启蒙。
通宝推：铁手,- 复 欲望会有的
家园 希望能够公认碳基生命的意识、欲望和快感 由西方最新的研究结果表明，是创世者规定的，而非进化而来，尤其人类的自我意识是造人者赋予的。
人尚无能力在可预见的时间内，千年万年，将硅基生命造出。而在此段时限内，我们这个人的X版本，有可能在“还会回来”的造人者的到来而再次毁灭，如果能由人造出硅基生命，指望人类的N版本吧
- 复 欲望会有的
家园 欲望倒也不需要自我意识 不过是生命体进化出来的各种激素荷尔蒙与神经系统的复杂作用的结果，只要还有生命力，吃饭睡觉性交基本上都是不需要大脑意识驱动下完成的。 当然人有了复杂的“意识”可以操控自己的欲望，比如把同样的食材变出各种花样提高食欲，美人化妆调情挑逗提高性欲等属于人类“意识”的作品。当然狮子捕猎也属于高级意识，只是比人类的意识范围与深度差了很多。还比如使用工具的能力通过多个步骤达到目的（食物😁），据说动物中这种能力最强的是乌鸦。
前者即我们常说的“欲望”是所有生物在进化压力下普遍具备的，后者的意识出现则需要复杂的环境与不单一的进化压力，比如捕猎是一种复杂行为，包括了目标与计划的能力，更主要的是复杂多变的环境条件下进化出来的复杂适应行为能力。 目前AI仍然在相对简单的范围内，规则一致，不论是棋盘还是语言文字，都远远无法与大自然生存相提并论，更不用说人类发展出的高度复杂的社会环境中的生存压力下的复杂行为，比如情商，信仰等，即使如此人类到今天还不能完全摆渡对情绪这种底层"欲望“的管理与依赖，经常一点自主意识的影子都没有。😄
也许GBT与GBT之间可以互相交谈，或者多个GBT分头进入社会各个领域，相互之间既沟通又竞争，面对人类社会相同的生存压力与进化适应环境之后，同时人类的工业化社会与资源本身就是AI的进化环境，才可能出现复杂的行为与让人望而生畏的全面碾压能力。 但目前看还差的很远，但也可能发展很快。真正限制进化速度的很可能不是总体算法与算力，而是单位能耗或单位算力下限制了可以构成这个有效进化环境的个体数量多寡。总之就是要让AI内卷起来，目前还做不到。
OpenAI最近辟谣没有GBT5，包括从开源转型闭源可能都有主动限制AI高速进化的考虑。
通宝推：孟词宗,家园 GBT与GBT之间可以互相交谈也是进化的必要条件 欲望是先天的，就涉及繁殖。
家园 围棋程式核心仍然只是"算法"而已 Ai 没有发现发明任何算法，都是人发现发明地。
Ai 唯一做到的只是帮人类缩短了列举完对局所有可能性所需要的时间而已。没有什么"创造"性。它只是快而已，而让它快的，都是背后的人。
用文科僧思维作类比说明:
机器最底层逻辑只有0、1，而人的思维是有"三"的，"三生万物"。Ai 归根到底只是二维的。
Aⅰ与人结合，也只能做到2.5维，是人降低维度去配合Aⅰ，而不是Aⅰ追上、超过了人类后，1+1>3。
中西医结合就有类似的情况，中医等传统医学大多具有某种"三"特性，更主观。西医则在很多方面似乎比中医更清晰\直捷\可证伪可复制，更客观。西医一旦尚没有能力达到相关认知领域，就只能对一些病人束手无策。但中医却可以在西医不知其所以然情况下，对很多疾病及时展开救治转危为安。西医具有批发特征，普通人学习后尚且都能成长为手熟专家。中医只要认真学习，当然更是能理解西医的一切所谓技术。但成为一个中医圣手，要能够千人一方，一人多方，多病一方，一病多方，随时对症调方，根本就不是有些机械式的全凭手熟就能成为专家地，要时刻开动脑筋。西医尽量追求一切都是机械的、物理的、客观的，中医则在灵活、思考上常有出奇。
人类思维开发的其实还很有限，目前也还没有什么了不起。人的生命有限，支撑生命、思维的能量方式、量级尚都还原始。
但在层次上确实与Aⅰ不在一个维度。Aⅰ只是人类思维的延伸、辅助。
家园 我觉得你对AI及其算法一无所知 就凭这一句：“Ai 没有发现发明任何算法，”
还有这一句：“Ai 唯一做到的只是帮人类缩短了列举完对局所有可能性所需要的时间而已”
以及这一句：
“Aⅰ只是人类思维的延伸、辅助。”
抱歉，我说得比较直接。
首先，“列举完对局所有可能性”这个已经可以证明使用宇宙间所有能量从宇宙诞生起开始计算直到宇宙毁灭都无法做到。
简单讲，人类并不知道AlphaGo是如何决策下某一步的，它所计算的胜率是如何计算来的我们也不知道。
家园 恐怕图灵测试不够本质 另外似乎这东西就是奔着通过图灵测试去的，胡说八道也是人类的特质之一，所以他没想办法尽量去掉胡说八道。
家园 【原创】AI, 创新，硅基生命，共产主义和大过滤器（三） 共产主义和大过滤器既然硅基生命的道路无法阻挡，那么我更应该考虑的是如何共存。从好处想，共产主义是可期的，毕竟人类的绝大多数“工作”都是基于人类相对于动物独有的，是基于人类的文明和文化属性，或许被硅基生命取代了未必是坏处。就如马克思缩预言的，生产力极度发达，物资极度丰富，按需分配，劳动成为人类的第一需求。就像游泳，跑步不再是人类的逃生和捕猎手段，而变成了人类的健身需求。未来，或许写作，编程，作曲，甚至炒菜，种地，挖沙子都不再是谋生手段而变成了人的需求和爱好，而成为需求和爱好，就各玩各的，不存在谁取代谁的问题。王羲之字写得再好，梅西足球踢再好，都不影响你写字踢球。老实讲，这两年，我有生以来第一次相信共产主义真的可以实现。
既然工作都可以交给硅基生命，那么碳基生命该做什么了？当然是做更有意义的事情。也就是硅基生命无法取代的生物性。而生物性，还有什么比扩展生存空间，并将遗传信息尽可能多的复制更有意义呢？人类应该专注于殖民和繁衍。只要人类存在，人类的文明就自然会有其发展和进化的途径。
说到殖民和繁衍，现在说的当然是星系殖民。这里就想到了费米悖论。以前我觉得对人类殖民阻碍最大的是距离，毕竟碳基生命的生存条件太苛刻了，对于星系殖民，需要带上整个生态系统，几千年的旅程，就算到了一无所知的目的地，或许又要至少几千年的改造才能让目标星球改造成适合碳基生命生存。这个想一想都觉得难以估量的工程。需要的资源和能源，或许要等进化到能制造戴森球的三级文明才可以办到吧。但是硅基生命的出现，却让这个成本大大降低。想一想硅基生命能自我学习，具有超过人类的适应陌生环境，处理突发事件的能力。并且对生存条件需求不那么苛刻。只要有能源，生存的温度范围远大于碳基生命。也没有对水和空气的要求。个体寿命也远远大于碳基生命，至于记忆力，判断力的稳定性，可靠性之类也远远超过人。可以讲，硅基生命特别适合星际殖民。硅基殖民者可以作为前站，并在目标星球将其改造成和它“家乡”类似，适合碳基生命生存的星球。当然，这里我是怀着美好的愿望希望硅基生命会热爱它们的家乡——这个小小的地球。并且欢迎来自家乡的其他生物。
以前，我觉得星际殖民是个遥远的科幻，现在，觉得这是个可以预期甚至可以看见的未来。或许20年，人类就会开拓火星殖民站，50年后，就会派出硅基生命的外星系斥候分队。宇宙大航海时代也许就从今天拉开了序幕。
当然，如果这个可以打破费米悖论，或许我们的硅基生命会在外星球预见其他硅基生命的种群，是敌是友说不清。黑暗森林未必是宇宙间的法则。毕竟看看地球上的人类，不知出于那种心理，反正是很看重生物的多样性的。对于一种对人类并没有用处的动物或者植物，并不会去有意消灭，反而会有意保护甚至刻意保留这种多样性。希望地球上和宇宙间其他的硅基生命也会进化出类似的伦理。顺便聊一句，基于这个想法，我觉得对人类生存危害性最大的不是硅基生命，而是分子级别的精细制造，毕竟有了你此时此刻的分子级别的堆砌数据，很容易在另一个星球上搭建出和你现在一样的你，同样的身高体重外貌，甚至同样的智力记忆和价值观。甚至可以工业化生产，造出成千上万个“你”。如果做到这一步，那么那个你才是真正的“你”？“你”还有什么作为做为“生物”存在的意义？
不过如果星际殖民如果没有遇见其他硅基生命呢？一个可怕的结论或许是人类要碰上大过滤器了，硅基生命进化的过程，或许把人类毁灭了。至于硅基生命自己，毕竟复制的机制和碳基生命完全不同，如果缺乏对繁衍复制的奖励机制，那么硅基生命就是天然的少子化社会，而只要是生命就会有死亡的一天，一代代地，没有碳基生命生命陪伴的硅基生命，也许它的终点就是毁灭。
我们现在，就站在宇宙大航海时代的门口或者是大过滤器的门口，但是无论如何，这扇门，我们总归要跨进去的。想一想就让人鸡冻啊！！！
通宝推：真理,桥上,