随着生成式人工智能的迅速发展,人们越来越关注 AI 生成内容带来的潜在风险。例如,人们可能会有意或无意地传播 AI 生成的虚假信息。特别是在图像生成领域,分辨 AI 生成的图像和真实图像显得尤为重要。
一些研究尝试用「加水印」的方法来分辨 AI 生成的内容。ICML 2023 杰出论文《A Watermark for Large Language Models》就针对文本生成提出为模型的输出添加水印。
现在,Google DeepMind 宣布针对图像生成推出一种添加水印的工具 SynthID,以识别 AI 生成的图像,目前 SynthID Beta 版已经上线。谷歌 CEO Sundar Pichai 和 Google DeepMind CEO 都转推介绍了 SynthID 工具。
SynthID 目前可以为谷歌的文生图模型 Imagen 生成的图像添加水印,并且在视觉上难以察觉。如下图所示,有无水印的图像看起来没有区别:
通过扫描图像中的数字水印,SynthID 可以评估图像是由 Imagen 生成的可能性。
SynthID 不会影响图像质量,并且即使在添加滤镜、更改颜色以及使用各种有损压缩方案(例如 JPEG)进行保存等修改之后,水印仍然可以被检测到。
在 SynthID 使用两种深度学习模型(用于水印和识别),这两种模型已在多个图像集上一起进行了训练,并针对一系列目标进行了优化。
目前,部分用户可以在谷歌的 Vertex AI 平台上对 Imagen 使用 SynthID 工具(Beta 版)。
值得注意的是,SynthID 并不能保证水印可以万无一失地抵御极端图像处理,但它提供了一种有前途的技术方法,使人们能够负责任地使用人工智能生成的内容。研究团队表示之后可能还会面向音频、视频和文本等模态推出类似的工具。
参考链接:https://www.deepmind.com/blog/identifying-ai-generated-images-with-synthid