使用SynthID识别AI生成图像
2023年8月29日发布 作者：Sven Gowal, Pushmeet Kohli
技术概述
新型工具通过数字水印技术帮助标记和识别由Imagen生成的合成图像。随着AI生成图像日益普及，如何准确识别这些高度逼真的图像成为重要课题。某中心与某云服务提供商合作推出SynthID测试版，该工具将数字水印直接嵌入图像像素中，使人眼无法察觉但可通过技术手段检测。
技术实现原理
水印嵌入机制
SynthID采用两个协同训练的深度学习模型：
- 水印嵌入模型：将数字水印不可见地嵌入生成图像的像素中
- 识别模型：通过扫描图像检测数字水印的存在
技术特性
- 水印在添加滤镜、改变颜色和亮度等修改后仍可检测
- 支持各种有损压缩方案（如JPEG）
- 水印与元数据方法兼容，即使元数据丢失仍可识别
技术优势
与传统水印技术相比，SynthID具有：
- 不可感知性：不影响图像视觉质量
- 鲁棒性：抵抗常见图像处理操作
- 可扩展性：可适配其他AI模型和模态（音频、视频、文本）
识别置信度
该工具提供三个置信度级别来解读水印识别结果：
- 检测到数字水印时，图像部分内容很可能由Imagen生成
- 能够评估图像由Imagen创建的可能性
应用场景
SynthID目前面向部分Vertex AI客户提供，主要用于：
- 负责任地创建AI生成图像
- 可靠识别合成图像内容
- 防止错误信息传播
技术局限性
该技术并非完美无缺：
- 对极端图像处理操作可能失效
- 仍需不断完善和发展
未来发展
将继续通过用户反馈收集、功能增强和新特性探索来持续演进SynthID技术，未来可能扩展到其他AI模型，并集成到更多产品中。
致谢
该项目由多位研究人员和工程师共同完成，包括Rudy Bunel、Jamie Hayes等，并得到某研究中心和某云服务提供商多个团队的支持。