哈萨比斯：谷歌想创造第二个Transformer，还想把AlphaGo和Gemini强强联合

在人工智能行业的一次重大举措中，谷歌将其Google Brain和DeepMind团队合并为Google DeepMind，由Demis Hassabis领导。本文深入探讨了这一合并所产生的新AI模型Gemini的创建，旨在推动人工智能研究和产品创新的边界。Hassabis对发明革命性AI架构的愿景是重点，突出了在多模态理解、长期记忆和推理方面需要更好的基准。文章还涉及开源人工智能技术的影响、AGI治理的挑战以及AGI理解超出人类理解范围的潜力。对于那些对人工智能未来及其治理感兴趣的人来说，这篇内容提供了关于谷歌战略方向和AGI发展的伦理考虑的见解。- 2023年，谷歌将Google Brain和DeepMind合并为Google DeepMind，旨在推动AI产品研究和进步。 - Google DeepMind的首席执行官Demis Hassabis表示，短期内AI被过度炒作，但从长期来看被低估。 - DeepMind和Google Brain的合并带来了创新机会，目标是发明下一个推动AI前沿的架构。 - Gemini是DeepMind和Google Brain合并后推出的对标ChatGPT的模型，在大模型排行榜上名列前三。 - AI领域需要更好的基准测试，特别是在多模态理解、长期记忆和推理能力方面。 - 谷歌计划将AlphaGo在规划和决策上的优势与Gemini等多模态模型结合，开发具备更强智能体行为的系统。 - 谷歌已经开源了一些技术，但前沿模型需要经过更多审核后才能开源。 - AGI的一个重要测试标准是是否能够自主生成全新假设和理论。 - AGI的使用应该建立在安全架构的基础上，由个人根据自己的偏好和使用目的决定。 - AI可能在解决数学问题和国际数学竞赛中取得突破，但目前的AI系统无法自行提出新的数学假设或原创性理论。 - 谷歌将继续推动AI发展，将AI技术应用于科学、医药和其他领域。 - AI产品的开发需要更多关注商业利益，但也要保持科学研究的纯粹性。 - AI技术的开源需要谨慎，一旦发布就无法撤回。 - AI系统的测试需要进行红队测试，使用AI本身来帮助发现错误。 - 公众需要改变对计算类型的看法，认识到AI是一种不确定性和概率性的计算方式。 - 开源模型Gemini 1.5是一种前沿模型，但可能需要经过一年或两年的审核才能开源。 - 开源模型一旦发布就无法撤回，需要谨慎考虑。 - 目前还没有方法将通用人工智能限制在某个组织内部的护城河之内。 - 在测试中，可以使用安全沙箱环境来处理中间层的问题。 - 监管AI需要国际合作和灵活的监管方式。 - 目前缺乏对AGI的能力测试和基准测试。 - AGI的出现可能引发对生活意义的重新思考。 - 构建AI系统需要考虑人类的偏好和安全性。 - AGI可能带来不良行为和新兴能力，需要更好地理解和解决。 - 神经科学对AI的发展有一定影响，但在工程阶段神经科学处于次要地位。 - AGI系统可能能够理解高层次的抽象和模式，超出人类理解范围。 - DeepMind是一个为期20年的项目，AGI可能在未来十年内实现。