五千年(敝帚自珍)

主题:【原创】生成式 AI 有没有推理能力? -- 孟词宗

共:💬15 🌺76
全看分页树展 · 主题 跟帖
家园 CNN主要还是对图像处理比较管用

不同模型有各自擅长的方向。transformer你就把它当作一个提速器就行了,还有其他语言模型,但速度不够用。大模型的产生基于一个基本发现,就是数据量超级大的时候,模型的性能不但不会overfitting还会提高,所以对算力与效率有很大要求。

我觉得楼下这位nobodyknows兄弟也太执着了。 虽然gpt属于语言类本质也是统计概率,但人类语言不同于自然界图像,而人类语言本身自带的所谓“话术”性,也不能全部归结于是糊弄😄,否则话术就不会那么流行了,随便就能被识破,还玩什么话术。

我感觉语言本身的特点也是造成gpt成功的一个原因,之所以在语言类模型上发生这种“飞跃”现象不是偶然的。围棋不用说,虽然组合可能性堪比宇宙繁星,但棋盘只有那么大。 其他针对自然现象包括图形目标运动物体等的模型,都离不开自然界中的固有规律,抓住了这些规律一通百通。 所谓自然规律用还原论去解释的话,万变不离数学原理,至少生活中常见的用经典物理就足够了,而那是一个目前人工智能技术可以努力实现的方向,事实上李飞飞们也是朝着这个方向发力中的。

但是语言是人类特有的现象,其表征的是人脑的外在形式,其中虽然有逻辑有话术,但其复杂的形式与内涵外延,不是简单一个忽悠可以代替的。 糊弄忽悠不过是其中一种使用语言对逻辑不清或认知茧房短板的战术现象,远远不能代表人类语言的博大精深与人类智能的无底深渊。但是gtp在人类语言上发掘到了什么深度,这才是一个有意思的话题,甚至gtp是不是唯一路径,或者与其他方法结合提高gpt的能力,目前这方面的探索很多。

好处是gpt已经提供了一个对人类语言的内在coherence高度自洽的能力,这确实是一个突破,也是人类有史以来从来没有奢望过非人智能包括计算机可能解决的。这本身就是对人类自诩为傲的人类智能的一个挑战,对所谓的天选之说可谓有毁天灭地的心理打击😂。

当然目前的gpt水平距离AGI还差的很远,不过最低门槛已经越过了,这一点是无疑的,也是令人震惊的,这次绝不是什么炒作生产力甚至美元金融的战略欺诈那种笑话,每一个头脑正常的人稍微对AI与认知有所涉猎的人都不会等闲视之。

当然OpenAI能否依样画瓢,还是下一个突破来自何方,那是更有意思的期待。 同时,这个方向与自动驾驶没多大关系,不理解为什么总有人把AI全当作一个篮子,华为小米是华为小米,与这个话题真的无关😂。

全看分页树展 · 主题 跟帖


有趣有益,互惠互利;开阔视野,博采众长。
虚拟的网络,真实的人。天南地北客,相逢皆朋友

Copyright © cchere 西西河