打击AI深度伪造仍无解？研究称：数字水印保护可被轻松绕过(打击ai深度伪造案例)

10月9日 消息:近年来，AI技术的发展使得生成深度伪造图像变得轻而易举。例如，阿诺德·施瓦辛格的脸被叠加到克林特·伊斯特伍德的《丑牛》电影中。这些深度伪造图像有时会带来娱乐，但最近的发展却引发了更加不安的趋势，将数字虚假信息转向了恶意用途。

最近，演员汤姆·汉克斯在社交媒体上谴责一则广告，该广告使用了他的AI生成肖像来推广一项牙科保健计划。此外，拥有超过50亿观看次数的YouTuber Mr. Beast被虚假地展示为以2美元的价格提供iPhone15Pro。普通市民也成为目标，他们的面孔出现在社交媒体上，而未经他们同意。最令人不安的是“复仇色情”的增加，其中受伤害感情的人发布了虚假的图像，将前任伴侣描绘成令人尴尬或色情的场景中。

图源备注：图片由AI生成，图片授权服务商Midjourney

为了应对这一问题，主要的数字媒体公司，如OpenAI、Alphabet、亚马逊和DeepMind，承诺开发工具来打击虚假信息。其中一个关键方法是在AI生成的内容上使用数字水印。然而，一份发表在arXiv预印本服务器上的研究报告指出，要遏制这种数字虚假信息滥用的能力存在困难。

马里兰大学的教授进行了测试，展示了保护性水印的轻松绕过方法。其中一位报告作者Soheil Feizi表示:“目前我们没有可靠的数字水印技术。”他表示，他的团队都可以成功绕过数字水印技术。他还警告说，AI的误用可能导致涉及虚假信息、欺诈乃至选举操纵等潜在危害，这些危害涵盖了个人和更广泛社会的伤害。

研究团队采用了一种称为“扩散净化（diffusion purification）”的过程，该过程将高斯噪声应用于数字水印，然后将其删除。这留下了一个扭曲的水印，可以绕过检测算法，而图像的其余部分几乎没有改变。他们还成功地证明，恶意行为者通过访问黑匣子数字水印算法可以发布带有标记的虚假照片，以欺骗检测器认为它们是合法的。

尽管如此，Feizi也表达了一些乐观情绪，他说:“根据我们的研究结果，设计强大的数字水印是一项具有挑战性但不一定不可能的任务。”因此，目前人们在审查包含可能对他们重要的内容的图像时，必须要保持警惕，双重检查来源，并运用常识。