主题：对ChatGPT的几点思考 -- 唐家山
家园 对ChatGPT的几点思考 发一个主贴吧。
根据我的观察：
1. ChatGPT是一个更聪明的智能辅助工具。善加利用，可以大大减少重复性的思维劳动。
2. ChatGPT的泛化能力不够，对于小样本或无样本的探索性科研活动，GhatGPT不会发挥太大作用。换句话说，对于真正的原创性工作，ChatGPT帮不上忙。
3. 传统的知识获取是通过教学和传承的方式进行的，是一种间接的方式。互联网的兴起，使得人类直接获取知识成为可能。ChatGPT可以使人类直接获取知识变得更加便利，成为一种常规操作，这是一种突破性的进展。
4. 如何更好地与ChatGPT类的AI协同工作，可能是一个重要的研究课题。我目前能想到的，就是要加强人类的元能力（不限定在具体的专业领域）和方法论方面的培养。比如说如何快速识别AI提供的知识的真假，就是一个很现实的问题。
通宝推：zwx650,四方城,不远攸高,菜根谭,家园 语言只是思维的工具 语言是思维的工具，这个应该没什么疑问，但语言是不是代表思维本身，也就是脱离了语言就无法思维，这个还是有疑问的。支持的有“逻各斯”中心主义，反对的有德里达的解构主义，维特根斯坦“语言游戏”，佛家“不可说”，道家“非常名”，“非常道”等等。
相比算数，人类很擅长语言处理：普通人心算两位数加减法就要停下手边所有工作，意识全部投入才能算对；但说话时往往可以一心二用，甚至有复杂逻辑关系的语句人也可以很容易的理解而不需要像算数那样意识全部投入。
从解剖上来看，人脑中负责语言的区域（不止一个）并不在产生意识的前额叶，但却有粗壮的神经桥连接。人类通过语言大大加强了连接，不仅可以通过语言交流经验，而且可以把学过来的经验经过思考加工后形成记忆再传递给别人，或者通过思考和实践改进别人的经验。从而使人类成为“社会的动物”。
根据这个现象，斯坦福开发了一个“AI小镇”，把ChatGPT接入智能体（Agent），让他们相互交谈，然后观察这个小镇会产生些什么。目前这个项目已经开源。
.
.
.
有趣的是，在这一点上海洋哺乳动物和人类很像。尤其是海豚，单从重量上来看海豚的大脑比人类还大（但神经元数量可能没有人多），而且海豚交流用的是超声波，理论上信息密度比人类要大，而且在海里传输距离还很远。有研究表明海豚智力很高，能识别出镜子中的自己（代表可能有自我意识），可能有自己的名字，还可能会在背后说人家坏话。
从前，在密西西比，海豚被训练去收集垃圾，然后用它来交换鱼。这看上去是件简单的事，对吧？好吧，一只叫凯利的海豚把这件事提升了档次。她收集了几张纸，把它们撕成小块，然后拿着小纸片去交换鱼，这样她就可以得到比大纸片所能得到的更多的鱼。这足以证明海豚利用自己的智慧去获得更大的奖励。
后来，这只海豚在她的水箱里捕获了一只海鸥，并因此得到了一整箱的鱼作为奖励。她却把鱼留在空旷的地方，以便吸引更多的海鸥，甚至还把“海鸥陷阱”教给了她的后代。
.
.
.
可惜的是海豚没有手，而且在海里也很难用火。否则说不定海豚早就达到星际时代了。（就像《银河系漫游指南》，和SEGA《海豚历险记（Ecco The Dolphin）》里说的）
通宝推：川普,家园 这个海豚智商估计比一些人都高 应该至少IQ 100分以上，甚至可能高达120. 而人类的智商分布有过文献介绍，IQ 80占据了人口的十分之一还是六分之一的比例，有点记不清了，是个很现实的问题。记得说这些人只能做清洁工或收银员，所以一个社会保证工作机会也要考虑人群的IQ 分布与他们可以承担的工作种类。
家园 昨天开会，问一个学生摩尔浓度的计算 他直接调出GPT，现场发问。GPT也不含糊，立马给了答案和计算过程：质量分数/分子量/阿佛加德罗常数，GPT似乎没上过初三，但是这位研三的同学信了...那么离谱的一个值...
家园 这几个月观察感觉国产语言大模型水平高于预期 百度的文心一言、阿里的通义千问、还有科大讯飞的星火大模型水平一个比一个好，该有的文字生成、代码编写功能都有。和ChatGPT差距虽然有，但说高于预期，是说和ChatGPT的水准差距是以月计而不是以年计，需要的是更多的训练，而不是什么不可逾越的技术难题。
通宝推：唐家山,家园 只要不是AGI，没有什么不可逾越的 既然差距已经明确就是计算量最后一定落实在成本上。有新闻说国内（好像是华为）已经在开发分布计算使用旧一代显卡的算法，最新显卡被封锁可以用几个上一代显卡凑，成本虽然会升高但不会成为障碍。 另外一点就是OpenAI与谷歌近期都承认大模型上不存在“护城河”，随着大模型之间因为商业利益的竞争，各种有分量的开源不断被竞争对手故意放出来，后面的事大家都懂的。
所以真正的发展点现在已经转移到了应用面上了，美国目前钻了牛角尖，虽然大模型在业内早几年都了解，但吃瓜群众还是被GPT这一手吓到了，全社会醒过味来现在反AI忧虑爆棚，各种限制法规酝酿中，拜吨也百忙之中亲自关怀，甚至前贴提到的Hinter最近都出走谷歌，从AI一哥地位摇身一变改行当了反AI的政客。但与之前全球变暖或新能源运动不同，美国面对AI则是左右一致反对，AI成了众矢之的过街老鼠。 这个趋势下去，美帝的AI失去了商业输血正循环，无法在社会商业活动中得到广泛使用，对生产力带来长足进步，还需要我多说么。
所以不需要把精力集中在算法上，只要借着GPT掀起的这股热潮推动下一波IT产业升级，而且对生产力升级的促进确实是刚刚的无可否认。现在国内每一个从风险投资商到码农都在嗨，就是因为重新看到了先富与领先的机会。
通宝推：唐家山,真理,家园 嗯，感觉是所有行业升级换代的机会 首先是语言大模型在IT行业的应用，IT业强大的国家会巩固自己的优势。所有的软件都会自动化。娱乐业也可以直接用AI拍电影、做游戏。AI做的动画片质量已经远远超过人工的了。游戏里甚至可以用AI来让NPC自主和玩家聊天，自动生成支线剧情。
然后是工业领域用语言模型来操纵各种机器人，实现真正的机器换人。越是工业大国、制造业强国越有机会给自己的工业AI提供足够的训练，落后国家靠劳动密集型产业翻身的指望彻底没了。
再然后是造出真正先进的人型机器人，投入服务业，家庭、医院、学校、政府都会受益。人类基本没活干了，UBI成为必需。AI带来决策成本的降低，于是社会高度民主化，共产主义成为现实的可能。
再然后就是AGI的出现，以及数字生命如何取代人类的问题了。
家园 企鹅到现在还没动静， 以后大厂大企业没自己的LLM，就自动出局。
家园 企鹅有个混元大模型，可能还需要些时间吧
家园 转个新闻： 美国三大医院展开实验 医生问诊 由ChatGPT 似乎是经济日报的：
内容美国圣地亚哥加州大学医院、史丹福健康照护、威斯康辛州大学医院等三个医疗体系，4月到5月陆续展开前导试验，导入聊天机器人ChatGPT读取病患在网络上提问，为医师草拟回复。医院想借此了解人工智能（AI）能否帮助医事人员节省时间。
华尔街日报报导，圣地亚哥加州大学医院医师米连（Marlene Millen）已在电邮收件匣中测试ChatGPT约一周，她说，AI最开始生成的回复需要大量编修，她和测试团队成员正帮忙改进机器人的回答。米连现在点开病患来讯时，ChatGPT立即根据来讯内容与病患病历摘要，草拟出回复，但同时遵守联邦隐私法规，保护病患资料。
4月稍早就展开试验的圣地亚哥与威斯康辛两个医疗体系，现在都限制AI辅助回复治疗建议。威斯康辛大学医院初步只让ChatGPT协助回应开处方笺、文书申请这类问题。
美国医学会杂志（JAMA）内科医学期刊28日刊出的最新研究则呈先出一些有趣的发现。在回答病患网络提问时，ChatGPT得分比真人医师还高。这项研究是让一组医师“盲测”，在不知道是谁回答的情况下，为列出的答复评分。ChatGPT得到“很好”、“非常好”评分是真人医师的四倍。而回复是否具有同理心？只有4.6%的真人医师回答被评为“具同理心”或“很有同理心”，ChatGPT比率则有45%。
通宝推：唐家山,家园 医生，程序员，教师这些传统白领危险啊 只有顶级的那部分人才还有价值，能为chatGPT升级贡献力量，大部分一般的就要被取代了。
家园 比他们更危险的是婚姻和家庭 事实上，现在婚姻家庭已经是负担远大于受益了。水木清华上说过，你养个娃，对你养老唯一作用是提前拔管，他好享受你的遗产。而国家为了减少养老金支出绝B会支持他们，无论从伦理法律还是社会风气上全方位提供方便。而绝户头们却可以生存到钱花完的那一天。
你要看那种访谈，什么金婚老人之类，说起婚姻最大的秘诀就是难得糊涂，就是忍，blabla。问题大家为啥要受罪忍着去维持婚姻？随着AI发展，婚姻家庭带来的所有的情绪价值都可以很便宜的得到。涉及对错的东西AI不擅长，但是涉及让人舒服不舒服的东西，AI太擅长了。
所以说AI先干掉的不是工作岗位，而是婚姻和家庭。