Gavin Baker：独特数据最终可能成为区分模型、实现预训练投资回报的唯一基础

在Gavin Baker的一条引人注目的推文中，讨论了人工智能发展中的一个重要里程碑。Baker强调了OpenAI在AI竞赛中领先的战略远见，他们首先大力投资于传统的预训练规律，这导致了他们在2022年夏季至2024年春季期间凭借GPT-4的优势。这段“大约7个季度的统治”特别有趣，因为它标志着OpenAI在谷歌和Anthropic赶上之前占据优势的明确时间线。对于那些对人工智能竞争格局和可以导致突破的战略举措感兴趣的人来说，Baker的见解提供了对早期采用和创新在该领域中的重要性的简洁反思。-从2022年夏季到2024年春季，OpenAI一直处于领先地位。 -在此期间，谷歌和Anthropic赶上了GPT-4。 -OpenAI的主导地位是因为它是第一个将传统的缩放“定律”用于预训练的人。 -OpenAI是第一个只使用o1进行推理的。