从Ray Summit 2024展望Ray的2025

该内容提供了对Ray未来发展的展望，这是在Ray Summit 2024上讨论的。它强调了Ray取得的重要里程碑，比如每月达到100万个集群，并发展到1000多名贡献者。Anyscale宣布了RayTurbo，这是Ray的商业版本，承诺提供增强功能。该指南还涉及了Ray面临的挑战，比如处理小任务延迟和日志分析困难。它强调了Ray与AI框架和Kubernetes的日益融合，展示了其在行业中的采用情况，包括谷歌等公司分享了他们的经验。对于那些对数据和人工智能应用的未来感兴趣，特别是批量推断和训练摄取，这篇内容为Ray的发展轨迹和社区贡献的潜在领域提供了有价值的见解。- Ray Summit 2024已经结束，Ray社区的用户和应用案例不断增加。 - Ray的企业用户包括大厂、创业公司、硬件厂商等，如Apple、Reddit、ebay等。 - Ray在数据方向的公司也在集成Ray，如databricks、Alluxio、LanceDB等。 - Ray在今年达到了每月100万clusters的启动和1000+的contributors。 - Ray的核心特性包括Compiled Graphs、Ray Data和Stability。 - Anyscale发布了RayTurbo、Provider for K8S、Machine Pools、Governance Suite等产品。 - Ray在Data + AI方向的应用逐渐成为主流，特别在batch inference和ingest for training方面。 - Ray与Spark的融合架构也在被广泛应用。 - Ray和K8S正逐渐融合，Ray on K8S成为行业共识。 - Ray在RLHF和Agent方向也有新的发展，如字节的veRL和蚂蚁的Ragent。 - Ray的多租户能力有待完善，目前主流的使用方式是通过workflow + job queue。 - Ray在2025年有更多创新项目和use cases值得期待。