曝Bengio新动向：世界模型+数学证明，确保AI系统正常运作

曝Bengio新动向：世界模型+数学证明，确保AI系统正常运作 - Yoshua Bengio 加入了 Safeguarded AI 项目，担任科学总监。 - 该项目得到了英国先进研究和发明机构（ARIA）的支持，资金为5900万英镑。 - 项目分为三个技术领域：支架、机器学习和应用。 - Bengio 将为项目中的 TA3 和 TA2 提供科学战略建议。 - 项目提出了一种名为“保证安全的 AI”的模式，用于量化 AI 系统的安全性。 - 项目根据安全性和可靠性定义了五个级别的世界模型。 - Bengio 一直积极参与关于 AI 风险和安全措施的讨论。 - 该项目旨在防止 AI 灾难，确保负责任的 AI 发展。- Yoshua Bengio加入了名为Safeguarded AI的项目，旨在构建一个负责理解和降低其他AI Agent风险的AI系统。 - Safeguarded AI项目由英国高级研究与发明局（ARIA）支持，投入5900万英镑。 - 该项目分为三个技术领域：支架、机器学习和应用。 - Bengio将提供科学战略建议，特别关注TA3和TA2。 - Safeguarded AI项目总监是David “davidad” Dalrymple，前Twitter高级软件工程师。 - 他们提出了一套称为“Guaranteed Safe AI”的模式，通过世界模型、数学描述和验证器来量化AI系统的安全保障。 - Bengio之前与其他人工智能专家发表了一封公开信，呼吁认真对待人工智能风险。 - Bengio还写了一篇题为“Reasoning through arguments against taking AI safety seriously”的文章，分享了他的最新想法。