谷歌旗下的AI研究机构DeepMind发布了,全球首个数字水印SynthID,主要用于提升生成式AI产品生成的图片安全,帮助用户识别图片的来源。未来,该水印会用于文本、视频、音频等领域。
据悉,SynthID可直接嵌入到,谷歌的文本生成图片模型Imagen合成的图片中。人的肉眼无法觉察到水印,不受更改颜色、添加滤镜等破坏操作影响;SynthID也可以识别图片中的水印。
今年7月,谷歌、微软、OpenAI等7家科技巨头与美国官方签订了AI安全协议,将以安全、可靠、透明的方式发展生成式AI。其中,一项重要技术保护措施便是“数字水印”。而谷歌也成为了全球第一家在生成式AI领域提供该技术的服务商。
SynthID由两种深度模型组成而成,一个用于添加水印,另外一个用于识别水印。这两个模型分别在不同的图像数据集上进行了大规模训练、优化,以提升水印的准确率。
左面有水印,右面无水印
SynthID主要用于谷歌的文本生成图片模型Imagen。该模型基于Transformer(ChatGPT也借鉴了该模型)的语言理解能力,以及结合了扩散模型的高保真图片生成能力。