ShieldGemma 2是由Google开发的先进图像安全分类模型

ShieldGemma 2是由Google开发的先进图像安全分类模型，旨在识别和过滤合成和自然图像中的色情、危险和暴力内容。这个模型建立在Gemma 3的4B IT检查点基础上，以其强大的性能脱颖而出，在安全评估中超越了基准模型。对于那些致力于确保人工智能的道德使用的研究人员和开发人员来说，这是一个重要的工具，因为它可以作为视觉语言模型和图像生成系统的输入和输出的过滤器。ShieldGemma 2的开发基于负责任的人工智能实践，符合Google对道德考虑和禁止使用政策的承诺。这个模型特别适合那些致力于负责任地开发和部署人工智能技术的人，为内容审核挑战提供了高性能的解决方案。- ShieldGemma 2是一个4B参数的模型，用于对合成和自然图像进行安全分类。 - ShieldGemma 2可以帮助构建强大的数据集和模型，以检查图像是否违反安全政策。 - 安全政策包括不包含性暴力内容、危险内容和暴力/血腥内容。 - 推荐将ShieldGemma 2用作视觉语言模型的输入过滤器或图像生成系统的输出过滤器。 - 可以使用代码片段在单个/多个GPU上运行模型。 - ShieldGemma 2的训练数据集包括自然图像和合成图像。 - 训练过程中应用了CSAM过滤方法以排除非法内容。 - ShieldGemma 2是使用最新一代的TPU硬件进行训练的。 - 模型的评估结果显示，ShieldGemma 2在内部基准测试中表现优于外部基准模型。 - ShieldGemma 2旨在用作安全内容审核员，但也存在一些限制和伦理考虑。 - 大型语言模型的开发引发了多个伦理问题，需要仔细考虑。