3万字全文｜资深分析师帕特尔谈AI浪潮对半导体行业的影响：英伟达平替？ASIC、预训练、测试时计算、数据中心建设热潮、HBM

在这篇全面的分析中，半导体专家Dylan Patel深入探讨了人工智能对半导体行业的变革性影响，特别关注了英伟达在强大硬件、CUDA软件生态系统和Mellanox收购后的网络实力下的主导地位。讨论延伸至人工智能模型训练的演变景观，突出了从预训练数据规模到推理时计算和合成数据生成的转变。Patel还揭示了英伟达面临的来自Google的TPU和亚马逊的Trainium等定制ASIC、以及AMD和Broadcom在网络领域的竞争挑战。 文章进一步探讨了由于人工智能计算需求推动的HBM市场的蓬勃发展，以及科技巨头在数据中心扩张方面的战略投资，以推动人工智能的进步。Patel强调了软件、系统级设计以及硬件工程和软件开发之间的协同在人工智能芯片市场中的关键作用。该指南还涉及行业过度投资的潜在风险以及持续模型改进对收入生成的重要性。 对于对人工智能和半导体技术交叉领域感兴趣的读者，本文深入探讨了行业的当前趋势、竞争动态和未来展望，对专业人士和爱好者来说都是一篇有价值的阅读。- 英伟达在AI工作负载市场占据70%-98%的份额。 - 通过“推理时间计算”和“合成数据生成”可以提升模型能力。 - 超大规模公司持续投资建设数据中心，数据中心建设受限于电力和空间。 - 推理时间计算减少了训练成本，但增加了推理成本。 - 英伟达面临来自定制ASIC、AMD和其他公司的竞争。 - HBM市场将迎来长期增长。 - 2025年半导体市场将继续增长，但2026年存在不确定性。 - 英伟达的竞争优势在于快速迭代产品、与供应链紧密合作以及对性能TCO的追求。 - 视频数据开发相对较少，文本是最有效的领域。 - 预训练模型包括预训练和推理时的计算。 - 数据生成和推理时间计算是扩展智能的新方向，但计算密集程度更高。 - 推理时间计算会生成大量内容，但只有一小部分是有价值的。 - 推理时间计算的成本增加是巨大的。 - O1 模型在推理方面的计算花费很少，有巨大的性能改进潜力。 - 互联网公司转向其他替代方案。 - 后端价格便宜，市场竞争激烈。 - 内存市场发生结构性变化，推理模型对内存需求增加。 - AMD在硬件方面竞争力强，但在软件和系统级设计方面欠缺。 - 谷歌的TPU在工作负载排名中居第二，但商业上不成功。 - 亚马逊的Tranium芯片价格低廉，但性能不如英伟达。 - 博通赢得了多个定制ASIC订单，但存在量产风险。 - 网络方面对于制造自己的ASIC非常重要。 - 博通在制造NVSwitch方面具有竞争优势。 - 博通正在制造NVSwitch的竞争对手。 - 谷歌TPU的购买量可能会放缓。 - Marvell和博通有机会赢得未来几代产品的定制ASIC交易。 - 超大规模企业计划投入更多资金，网络设备和系统供应商生态系统将表现良好。 - 2026年是关键时间点，取决于模型改进和资金来源。 - 新云市场正在整合，只有少数公司能够生存下来。 - 超大规模企业占收入的50%到60%。 - 支出超前于计划是一个因素，但模型的改进是关键。 - 2025年将是关键的年份，看哪些公司能够实际产生收入。 - 一些规模较小的模型正在退出投资军备竞赛。