AI推理芯片竞赛，升级

这篇文章讨论了AI推理芯片领域的不断发展，重点介绍了最新的ML Perf Inference v4.1竞赛结果。文章展示了Nvidia的Blackwell芯片在语言模型问答任务中表现出色，超过了其前身。文章还介绍了AI推理市场上的新竞争对手，如UntetherAI、Cerebras、FuriosaAI和IBM，它们每个都带来了创新技术来挑战Nvidia的主导地位。值得注意的是，UntetherAI的芯片在边缘计算方面表现出高效率，与Nvidia的产品不相上下。这篇文章对于那些对AI硬件最新进展感兴趣的人以及芯片制造商之间日益激烈的竞争感兴趣的人来说具有重要意义，这可能会影响AI应用和效率的未来。- Nvidia GPU在AI训练领域占主导地位，但在AI推理方面竞争对手逐渐靠近。 - ML Commons发布了AI推理竞赛结果，包括使用AMD Instinct、Google Trillium、UntetherAI和Nvidia Blackwell的作品。 - Nvidia Blackwell芯片在LLM问答任务上性能比之前的芯片高出2.5倍。 - Untether AI的speedAI240 Preview芯片在图像识别任务上与Nvidia H200相当。 - Cerebras和FuriosaAI推出新的推理芯片。 - Cerebras芯片在LLM任务上比Nvidia H100和Groq芯片高出7倍和2倍。 - Furiosa的RNGD芯片在MLPerf的LLM摘要基准上性能与Nvidia L40S相当，但功耗更低。 - IBM推出专为企业生成式AI工作负载设计的Spyre芯片。