主题：投票很多人似乎都觉得国内经济不行，到底为啥不行呢？ -- 胡一刀
- 投票信息
单选，参与 249 / 0
好上加好7/0稳中向好84/0不死不活64/0越来越差62/0自己晕菜了32/0
家园 多谢反馈 此前 因为知道openai准备采购中国 14纳米芯片的消息在河里提过一句，就是想知道更具体情况的人讨论。当时引发其他河友质疑，讨论中他观点倾向openai实际是买中国业者的方案。整个观点我是赞同的。如果我们14纳米可以实现他们现在的性能，那么中国的方案他们的先进制程能不能实现技术的优化。我认为是符合逻辑的。这也就是我一直主张的，中美在信息化领域恶性竞争，对其他国家构建越来越高的信息技术壁垒的原因。
实际上，中美算力比拼看。中美算力中心采用的 芯片组我们比美国多30%，但是算力上中美差不太多，这也体现芯片组的性能差异。后面我们芯片放量，尤其5纳米和7纳米的国产替代加入竞争，更多的优化方案和更多的 应用尝试。降价只是其中之一。数字化能否让人生活变得的更美好估计争议不会小，但是更便利争论应该小很多。
通宝推：凤城,秦波仁者,唐门凤去,- 复 多谢反馈
家园 葡萄大昨晚有没有盯美盘关注一下英伟达的Q4FY24财报 1⃣Q4FY24营收利润超彭博一致预期，符合 buyside 预期
Q4FY24营收221亿美元(同比+265%，环比+22%)，高于204亿美元一致预期3.4%。调整后EPS为4.93美元(同比+765%，环比+33%），高于4.6美元一致预期7.2%。四季度Non-GAAP毛利率为76.7%，较上季度+1.7%，较上年度+10.6%，主要由Hopper GPU和较低的原材料成本驱动，同时全年毛利率提升还受益于存货跌价损失减少。
2⃣Q1FY25业绩指引超预期
季度收入指引240亿美元（上下2%区间），高于219亿美元一致预期9.6%。Non-GAAP 毛利率预计为 77.0% （上下0.5%区间），Non-GAAP 运营费用预计 25 亿美元。
3⃣ 数据中心业务：季度收入创记录达到184亿美元（同比+409%，环比27%），全年收入创纪录达到475亿美元（同比+217%），主要受益于NVIDIA Hopper GPU 计算平台以及 InfiniBand 端到端解决方案的出货量增加。其中计算部分24财年同比增长244%，Q4环比增长27%；网络部分全年同比增长133%，Q4环比增长28%。Q4来自大型CSP的收入超过50%，包括其内部和外部网络。由于美国禁令影响，Q4来自中国的收入显著下滑。
4⃣游戏业务：收入同比+ 56%，与上一季度持平，财年收入+ 15%。主要驱动因素包括RTX 40 SUPER系列的发布，需求增长和渠道库存去化。
5⃣专业可视化业务：收入同比+ 105%，环比+ 11%。财年收入+ 1%。主要驱动因素包括Ada Lovelace架构的GPU发布和渠道库存去化。
6⃣汽车业务：收入同比- 4%，环比+ 8%。财年收入+ 21%。本季度同比下降是由 AI Cockpit 收入减少造成，但被自动驾驶平台的增长有所抵消。
7⃣库存和生产能力的采购承诺和义务为 161 亿美元（上季度为171亿美元），由于某些部件的交付周期缩短而环比下降。预付供应协议为 50 亿美元，上季度为36.7亿美元。
8⃣2024财年共99亿美金用于股东回报，其中包括95亿回购和3.95亿现金分红。
- 复 多谢反馈
家园 LPU和GPU的关系，有可能会复现GPU和CPU的关系 中短期看，GPU依然会是AI计算的主流。从更长的时间尺度看，LPU在AI计算方面会展现出比通用GPU更高的单位能效处理能力，就如GPU在图像计算上对通用CPU的优势一样。在LPU和GPU优化方便，华人在硅谷里的创投研发圈内已经形成了自己的小圈子，如果就算谈不上是核心圈，但也离核心圈很近了。
通宝推：川普,家园 训练目前还是要靠GPU LPU的速度主要发挥在推理层上，优势确实很大。
家园 一些语言模型往事 早期的语言模型都是依赖于RNN/LSTM以及其各类变种的结构，但这类对并行不友好的结构存在一个吞吐量的问题，NVIDIA早年的产品也会为这类架构进行一些策略性的优化，但更多的是CNN的优化，因为计算机视觉在那个时代率先落地，需求巨大。
后来transformer诞生就是为了解决之前结构的并行化的缺陷，但在最开始并没有受到广泛的认可，因为其在任务效果上并没有展现出巨大的提升。transformer真正受到关注是在BERT（一个类似于专门做完形填空的语言模型，但不能对话只能填词）出现后，google通过在transformer上用当时的海量计算资源进行预训练，搞出来3亿参数的模型，超越了很多之前google内部多年的技术积累。也正是在这样子的情况下，google很快宣布搜索系统全面用BERT进行优化，所以我们才会看到google很快就搞出来TPU替代作为内部计算架构的主流解决方案。这一系列的决策都是有据可循和有利可图的。
BERT的成功启发了openai，openai也采用了google的思路，堆算力，在transformer上训练了一个标准语言模型，从而诞生了GPT2，四个尺寸（1亿，3亿，8亿和13亿参数），并且在当时openai宣称他们的模型太危险了，能生成人类不可辨识的文本，拒绝开源模型，一度在社区引发轩然大波，closeai的名头大约是从那个时候开始的。后来他们在社区的压力下或者是内部的某些不广为人知的原因（如果有人知道欢迎指正），彻底开源了GPT2。但根据那个阶段openai的很多公开的声明和行事风格，我倾向于认为openai对于下一步的发展也没有一个明确的方向，所以后来的路径大概是更大的模型，更多的数据训练了GPT3（27亿，67亿，130亿，1750亿）。再然后就是对GPT3 （27亿和67亿）进行人类偏好的问答训练，诞生了instructGPT。openai的所有的公开可追溯的工作到此为止，但一切都相对有迹可循。但即使到这个时候，openai也没有选择自研芯片，因为没有明确的业务模式商业逻辑，相反，而是转头和微软签订了巨额的计算服务资源协议。这一点和google选择切换到TPU是有业务需求和利润保证。
但LPU这代的技术，本质上是在赌GPT的架构发展的应用能够形成一个正循环来覆盖其研发和建设数据中心的成本。如果某个全新的架构或者方法太快的出现，并且展现出领先transformer的优势，那么这类LPU芯片唯一的生存机会就是上一代transformer孵化出来的应用场景能覆盖其研发和serving的成本，否则一切从头再来。
写的匆忙，欢迎讨论和指正。
通宝推：青青的蓝,西电鲁丁,心有戚戚,唐家山,达雅,
本帖一共被 1 帖 引用 (帖内工具实现)- 复 一些语言模型往事
家园 目前神经网络的训练，对内存带宽的要求高于对浮点数计算能力的要 求。如果参数数量决定AI能力，也许最后是存储芯片胜出。
家园 短期数据层面比HBM更重要 数据的重要性再怎么被高估也不为过，最简单的例子就是mistral作为一个开源小团队却超越了一系列的模型大厂，其虽然开源了模型参数，但对于数据过程讳莫如深。数据层面对于训练的加速现在还处在“摩尔定律”的范围内。而且这里说的并不是大家常提到的高质量人类标注数据，而是指现在已经有的数据，对于其的二次加工之类等一系列操作。这个方向现在是各个模型厂的重中之重，对于训练的加速效果目前远大于换更好的硬件和神经网络架构的修改。
家园 认同你的分析，但认为结论值得商榷 数据和架构非常重要，但目前似乎没有人掌握这两个东西的基本规律，整体上还是在炼丹。从炼丹到化学建立，经历了太多的试验。比别人多做一次试验，先找到规律的可能性就更大。所以丹炉还是很重要的。
- 复 多谢反馈
家园 我搜到的结果是目前谷歌用LPU的量超过GPU LPU现在的问题是使用SRAM，导致运行大模型的硬件成本和使用成本都远高于GPU。好处是主芯片使用的是14nm工艺，那么类似的芯片总归可以搞出来。另外，如果需要也可以用HBM，那么性价比就可以和GPU相比。
至于7万亿美元AI造芯那条忽悠了不少人的吊诡信息，是WSJ援引所谓消息人士，并不是奥特曼本人。单纯AI芯片的使用量远远到不了这个数量级。如果要说有，那肯定是包含相关的硬件产品，而不单纯是芯片。
“2023年11月16日，微软在西雅图举行的年度Ignite技术大会上正式发布了两款自研AI芯片，为全球科技产业掀起了一场新的技术浪潮。这两款芯片分别是Azure Maia 100和Azure Cobalt 100，代表着微软在人工智能和通用计算领域的最新技术突破。”
这两个芯片都是5nm的，如果真是突破了找中芯代工倒是合理的。
通宝推：川普,家园 设计上不一样 LPU的内存很难扩大，运行原理上不一样。LPU无法完全取代GPU，但OpenAI与AMD都是未来黑马，但会需要个两三年时间至少的。
英伟达目前库存到了历史新低，大量资本涌入投资中，短期内财报无忧，整个大陆市场已经被忽略，占不到5%。但如台海出事，那么就呵呵吧😂。米海军倾巢出动力压西太的法理依据已经建立，但美方肯定不敢现在主动点火，所以大陆方面眼下其实无忧。
大模型AI的应用目前已经被广泛确定，各行各业都在做规划，裁员重整资源中，即使英伟达自己在供不应求的条件下也在做商业模式改变，比如卖不如出租😂。
目前华尔街热炒AI的一个主要动机是收拢资金重建芯片产业链，主要目的地是美日，AI一定程度其实是幌子，集中资金办大事才是真。大环境是以援乌军事物资不足为藉口启动军工产业链，所以除芯片与军工外其他行业都是浮云，战时经济的节奏开始了。
- 复 多谢反馈
家园 台积电的毛利55%，Nvidia的毛利90% 假如中国的芯片成本比台积电高30%，美国业者的算力成本比华为算力的成本高15倍。
你就知道为什么华为的智驾水平最高了。
家园 本来我能说的只能是 十年前就说的 -- 有补充 自己力所能及触手可及的时候就加入。
今天有个新闻朋友圈传疯了:OpenAI发布文章转换视频模型Sora
这是河友回复在我某个帖子下面的
这个帖子上下内容我合并下 ：
一.新年反馈
1. 华为5纳米 预期量产
2.华为大模型会植入手机
3.微软将实时渲染作为 openai今年的应用方向，这个方向华为不落后
另一个回复还没显示出来，我这里复述下大意是
最近看游戏大厂介绍，这里介绍实时渲染技术引擎，一个中国大陆大厂控制，一个微软控制。微软的方向在今年是openai在游戏领域倾向手机端（ XBOX后续投入会因为优先序列削减）同步我之前有个帖子引发讨论是openai在中国采购芯片（有和我争论的说实际是采购方案这个是我受教）传闻。同步还有苹果的新产品，产品的去实体屏幕方向我认可，但是现在苹果因为散热片带来的头盔分量增加的问题我是不看好的。对了去年我提过我押注谷歌，我看好理由不变，但是谷歌方案在这个Ai周期是没戏了。该向市场认错还是要认的。
二，我之前说过一件事，华尔街此前预测到 2030年中国AI市场份额是7万亿美元。那时候全世界AI市场规模是 14万亿。这次，openai已经官宣将采购七万亿美元。
回到前面帖子，我说过，微软下注openai本身是赌机器端，这个我们既有数据优势也有 机器端口的应用优势。很多人担心的债务，会被新技术和新型资产冲抵。我眼里，AI市场只是未来很小分支中的分支。即时如此，这个市场现在预计发展到2030年每年 7万亿美元的规模。这个规模的市场哪怕到时候兑现五分之一，产生十几万亿流动性对冲债务周期，我想至少可以缓解很多人焦虑了吧。
所以你别问我 太具体，我只看市场怎么选。不管我知道多少，最终还是市场来选择。所以市场做了选择后，和你行业正相关就是你触手可及，如果技术和人才准备到位，就是力所能及。然后跳进去。
我举例，去年我一个网友遇到减员增效，他一个人干平时三个人的活。但是他的工作和 Ai动画有关。他同时利用几个大模型，一个人干了平时三个人以上的活。不仅可以揽私活，同时可以 让实际工作时间减少。这也是一种力所能及，触手可及。
大白话就是眼下能干就能有正反馈就干，不能多数人等到正循环呗。毕竟数字社会会惠及社会每个生产环节的。
对了：环球人物报道的中国ai鼻祖-----------陆汝硶
补充是实时渲染技术，很早就成熟了，只是有关公司一直在赔钱。openai最早 应用就是游戏Ai。
另最后，我这里也是给方兄谁和谁博弈的参考。我个人经历就是，两个循环逻辑相互之间逻辑排斥，发展方式更是互不相容。毕竟我在2012年前后说数字三要素说的很清楚，数字作为生产要素最终是要成为排他性的存在。直白的话就是数字取代资本成为各生产要素中处于支配中心的 生产要素。
通宝推：从北苑到太古,西电鲁丁,广宽,方平,心有戚戚,Meerkat,偶卖糕的,作者 对本帖的 补充(1)家园 三星未来十年采购 2纳米光刻机50台 -- 补充帖 台积电现在7纳米设备空置率是 40%，2纳米卡住了，所以台积电暂时叫停了新生产计划。
家园 感谢老兄回复，看来要加强学习了 里面有些名词都不太懂。望老兄方便时多聊聊技术，对我这样也算做科普，不致于被时代抛下太远。
家园 我IT是外行 因此愿意请教有关专家，他们愿意理解政策走向，我愿意了解行业前沿。我们已经开始围绕正循环定期聚会交流行业前沿。大体就是各自知道前沿的凑一凑，能干的干起来，不能干的保持追踪。时间长了，正循环就搭起来了。
我现在讨论服务正循环的，起码大家对共同关心的事情有个正循环的态度。然后彼此交流观点与看法。比如我去年回答银行的朋友一些化债和今年要做什么的问题。我说那时候我不知道（会议没开，将就没法落实今年重点），但是随着一些事情的落地，到时候就知道了。能不能做终究是靠平时日积月累。就看你愿意不愿意为此付出时间。
还记得加入世贸那会，国内也有左右分歧，但是面对新事物左派的拿不出解决方案。于是右派上。到如今，不管左右，我眼里。在信息化方向，前沿的这个也不知道，那个也不知道。遇到转型问题，就是这个也不行那个也不行。毛选我说过是操作手册，手把手教你这么调研，这么建设这么发展。中共始终是一个以代表先进生产力为执政正当性的组织，不能干事的终究是上不了台面的。
通宝推：方恨少,渔人出海,凤城,方平,心有戚戚,