五千年(敝帚自珍)

主题:如果说俄乌电子战是敲醒上层的话,GPT这次就是敲醒下层了 -- 狙个梨子

共:💬119 🌺856 🌵44
全看分页树展 · 主题 跟帖
家园 如果关注一下的话,会发现算力的制约已经出现了

是的,现阶段暂时不成为最大瓶颈,但是已经是瓶颈了。就是从今年3月开始。GPT证实了路线的可用性,各家开始上马大模型,这时候才发现数据算力算法三者全部成为了瓶颈。文心一言现在就是典型的欠缺训练的表现。

而且3月以后新一轮制裁下非美厂商耗材基本已经断供了,所以现有产能也不容乐观。我不知道河里有多少人了解,阿里为了能去台积电流片已经主动合规降低AI芯片的性能,算力的上限已经出现。

/

pop3的结论建立目前是我们用新设备去欺负对方的旧设备的基础上,算是同代产品,这才体现出暂时的平衡,要知道对面比如E-3这种可都不知道是什么年代的旧货。但是别人难道就不换代了么,尤其根据美军的招标情况来看是换代才刚开始。

现在AI技术领域的进步完全类似于上世纪航空领域的进步,当时一年时间差距下不同机型的作战能力差别有多大我想大家都知道,何况现在被拉开的差距远不止一年。5年后会发展成什么样现在完全没法估计,以现在的标准来评估指数发展阶段的产品是非常不可靠的,AI作图就是典型。2月份还能靠数手指来鉴定AI,3月份?数个屁,lora教做人

/

GPT迭代的劣化恶果已经出现,但是恰恰就是对于后发者的制约,大量github项目自己删档,大量开放学术资料下架,我收藏夹里一堆开了几十年的个人小站点因为不胜其扰的爬虫纷纷主动关站。这对于跟随者才是更要命的,这意味着后来者收集的数据资料质量一定低于先发者。我愿称为信息通货膨胀,后来者永远只能吃先发者拉出的屎,搞不好还是先发者主动拉的。

/

毫无疑问的是过去浪费了太多时间,结果就是浪费了最宝贵的窗口期。上面的态度也很明确,提头来见,统统进去,大基金都快成国足了。

这也是我为啥一直强调痛恨赢麻党的原因,总觉得天下无敌,对于美国领先的领域视而不见,甚至有兴致上来的想打到西海岸,我记得河里似乎就有决战美国西部大平原的。醉生梦死的社会气氛使得从上到下所有人都麻木在其中。

提到28nm我就有气,早前河里大家是怎么看28nm的?17年都觉得28nm随手可山寨,盲目乐观了吧。17年到现在6年了,20年到现在3年了。

https://www.cchere.com/article/4236968

https://www.talkcc.com/article/4504296

早3年吹的28nm要是有现在这个水平,现在绝不会如此狼狈。别吹了,再吹真死了。

前沿开始纷纷闭源,AI的差距现在才会开始出现,现在是差距扩大期。

技术高速膨胀期任何一点得意忘形到后面都要付出几倍的代价来偿还。

通宝推:俺本懒人,盲人摸象,
全看分页树展 · 主题 跟帖


有趣有益,互惠互利;开阔视野,博采众长。
虚拟的网络,真实的人。天南地北客,相逢皆朋友

Copyright © cchere 西西河