主题:辛顿,李飞飞,和AI之问 -- qq97
GPT-4 的规模是 GPT-3 的 10 倍以上,是目前人类工程巅峰项目。据估计分析报道 ,它有约 1.8 万亿个参数,这些参数分布在 120 个 transformer 层上,作为对比,GPT-3 的参数为大约 1750 亿个。(GPT-3 仅有 12 个 transformer 层,层数是 GPT-4 的 1/10。)
然而这种所谓artificial intelligence,只是表象上的对人智能的模仿,我判断断基于注意力机制的Transformer模型计算模型的发展也不可延续当前发展路径。
我以前的讨论:
两个看法 https://talkcc.net/article/4861135-10522
可以再想,但把它当成游戏就好 https://talkcc.net/article/4887154
生活在中西文化新旧时代夹缝里的钱穆。我认为钱穆(此人自学成才,由经史训诂而通义理的)学术研究脉络比较清晰,与计算机AI有相通的地方
https://talkcc.net/article/4963737
题外话:
你“现在对大模型对产业能带来多大的促进作用产生疑虑”,这个思考层次是对的,但很有可能识者寥寥。不要迷信流行和权威,独立思考。
以下是我翻出来对马前卒影评的评论,同样识者寥寥。
https://talkcc.net/article/3885389
https://talkcc.net/article/3889541
https://talkcc.net/article/4920555
https://talkcc.net/article/4920560
- 相关回复 上下关系6
🙂请教不敢 5 qq97 字927 2024-07-02 03:01:51
🙂但是呢,有没有可能缩短了理解星星之火的运用呢? 1 真离 字307 2024-07-01 16:51:31
🙂参考恐龙变鸡,鸡是当今世上数量最多的禽类,因为抱上了人类的大 9 tq10 字400 2024-07-02 06:46:05
🙂【讨论】以语言为对象的数据统计游戏
🙂很有意思,已经通过站内短信联系,请回复 鸿乾 字0 2024-07-30 17:30:00
🙂昨天听了AI团队的汇报 21 qq97 字1177 2024-07-05 07:03:28