ALIGNWORLD

溯源

OpenAI联手Google,AI图片从此无所遁形

2026年5月21日,昨天Google I/O发布会热度挺高,全网都在聊Gemini 3.5、Gemini Omni等等,但有一个小东西我想单独记一篇,因为它对大众和我们这些普通人的影响,可能比其他所有新模型新功能都要重要:OpenAI官宣选择与Google合作,接入Google SynthID,完善AI图片检测链路,然后推出了一个AI图片检测工具来强化内容溯源,尽可能用最低的成本,让每一张AI生成的图片都可以被识别出来。

我一直非常关注这一块。上个月GPT-image-2刚上线的时候,我写过一篇《因为GPT-image-2,整个互联网都变成了巨大的黑暗森林》,那篇文章里我说了一个判断:当造假的成本趋近于零,且没有有效的识别手段的时候,信任的成本就趋近于无穷大。之前还写过一些这样的社会现象,比如去年双十一那篇讲用AI假图骗"仅退款"的——很多商家可能万万没想到,现在薅羊毛的买家会恶心到直接用AI来P图,然后发一张残次品的图过去,跟商家申请仅退款。有商家放大一看,一脸懵逼地发现哥们连水印都忘了P掉;有商家一脸懵逼地收到了鞋子的退款,点开详情图一看,得,又是一个忘记裁掉水印的;商家直接飞龙骑脸问,是豆包弄的?对方还振振有词。这都是去年双十一发生的真实案例。

而且要知道,这都是去年的技术了。如果是今年的GPT-image-2,那个造假的逼真程度,不要说很多普通用户,我坦诚地讲,我自己看了这么多图、也生成了这么多图,我也没有任何信心可以确切评估一张图是不是AI造假的,就比如那种以假乱真的东西。

所以,当OpenAI和Google这两死对头决定合作,把Google SynthID图像水印也引入GPT-image-2,然后推出OpenAI自己做的AI图片检测工具时,我觉得未来的互联网黑暗森林还是有救的。网站:https://openai.com/zh-Hans-CN/research/verify/ 。无需登录,直接把图扔进去就会开始验证,等个几秒钟就会出来结果。我测试了一些常见方法:比如重新发送、重新保存,依然还是会被检测出来;甚至我直接局部裁掉一块、改掉格式,再重新保存一遍扔进检测网站,依然显示还是由AI生成的。内容平台上的帖子,我直接存成图片扔进去,也可以识别出来。同时,一些看着很离谱、像AI生成的真实照片也不会被误测。比如有一张照片,看着就非常像AI,但其实不是——那是蒙特利尔艺术团队The Dorothy Project发起的名为Mission TARONI的艺术项目,艺术家与工程师合作,使用高空气球把一个包裹着深蓝色丝绸的人体模特送入了距离地面约33至35公里的平流层,然后在设备舱上装了Insta60,全方位记录下这个蓝色身影在黑色宇宙背景、地球弧线与白云之间共舞的画面。把它扔进网站之后,OpenAI为了保险其实不太敢直接说这不是AI生成的,显示的还是"未检测到OpenAI信号"——目前它也只判断是不是OpenAI自家的GPT-image-2生成的。我测试了把NanoBanana生成的图扔给OpenAI检测,同样显示未检测到OpenAI信号;只能在Gemini自己的产品里去检测才可以,比如我照样局部裁切、保存再扔过去,也是可以被Gemini检测出来的。

所以手段其实都有,只是目前还处在一个时代的进程中:老的图像模型问题还是比较多,各家也还比较分散,没有形成一个统一的集合体。目前那个网站也只能验证OpenAI自己生成的图片,但OpenAI说了后续会扩展到跨行业验证——也就是说,其他AI公司生成的图只要也接入了同样的标准,也能查。我可能未来也会做一个公益的小东西,接入这些平台来做遍历检测,不过会复杂一点,因为还需要考虑前几代AI图片模型的检测。不过在这个时代,未来C2PA元数据加Google SynthID水印的方式,确实几乎可以让绝大多数AI图片无所遁形了,虽然还是有办法去除,但成本会比较高。目前的技术栈和架构大概是这样的。

顺手把C2PA元数据和Google SynthID水印这两个名词记一下,到底是个啥东西。

首先是C2PA元数据。全称叫Coalition for Content Provenance and Authenticity,翻译成人话就是内容来源和真实性联盟。它是一个跨行业的开放技术标准,2021年成立,Adobe、微软、Google、BBC、索尼、Intel这些公司都在里面。它做的事情一句话概括就是:给每一张图片发一张证明。这个证明在技术上叫C2PA Manifest,翻译过来可能"清单"的意思稍微准确一点。这个清单里一共放了三层数据。第一层叫Assertions,是一组关于该图的声明,比如"该图由ChatGPT生成的""生成时间是2026年5月19日""使用的模型是gpt-image-2";如果是AI的就是上面这些,如果是相机拍的照片,里面就会是"该图由Nikon Z9拍摄的""GPS坐标是xxx""光圈f/2.8快门1/500"这些信息。第二层叫Claim,就是把上面这些打包在一起,形成一个完整的声明。第三层叫Claim Signature,大概就是签名的意思,这一步会用生成该图的那个软件或硬件的私钥,对整个声明进行加密签名,同时会对图片本身做一次哈希运算,把图片内容和清单绑在一块。这个签名其实就是防造假:如果有人事后篡改了图片哪怕一个像素,哈希值就对不上了,验证的时候就会报错。然后这整个清单会被打包成一个叫JUMBF的容器格式,直接嵌入到图片文件里面,你用肉眼去看它什么都看不出来,但用C2PA的验证工具打开,就可以看到所有的历史信息了。

大概就是这样。这套东西OpenAI从2024年就自己在做了,最早是给DALLE 3加的,后来给Sora也加上了。这次的升级是,OpenAI正式成为了C2PA的合规生成器产品,也就是说,其他平台可以标准化地读取、保留、传递OpenAI附加在图片上的这些加密元数据了。而且其实不只是AI公司在搞这个,相机厂商也在搞:Leica的M11-P在2023年就成了全世界第一台支持C2PA的量产相机,你拿它拍一张照片,快门按下的那一刻,相机就会自动往JPEG文件里嵌一个C2PA清单,用Leica自己的证书签名;Nikon的Z9和Z8也在2024年通过固件更新加了C2PA;再后来Sony、Canon啥的也都跟进了,Google的Pixel 10甚至是第一款默认给所有照片都打C2PA签名的消费级手机,用的是Titan M2安全芯片的硬件级密钥。未来大概率会形成一个双向的体系:AI生成的图有标签,真实拍摄的照片也有标签,屏幕内容其实也可以有标签,这些溯源我觉得还是有必要的。因为现在去除C2PA还是比较简单的,但篡改很难,所以如果未来的世界一切内容都有C2PA,那反而变成谁没有标签谁尴尬。不过那毕竟是未来,在这个阶段单独的C2PA还是不够的,所以OpenAI这次才选择跟Google合作,把SynthID也引入进来。

SynthID是Google DeepMind搞的一个技术,2023年就有了,但一直在Google自己的体系里用。这次Google I/O上,Pichai宣布SynthID要扩展到Google搜索和Chrome浏览器里,而且OpenAI、Nvidia、Kakao、ElevenLabs等等都要接入。如果非要用一个比喻来说C2PA和SynthID的区别,那我觉得就是:C2PA是给你贴了个外部标签,SynthID是直接往你的DNA里写东西。SynthID会在AI生成的图像(或视频片段)中添加一个不可见的数字水印,这个水印不会改变图像或视频的质量,它会在内容创建的瞬间添加,设计上能够抵抗裁剪、添加滤镜、更改帧率或有损压缩等修改。整个工作原理其实非常硬核,我尽可能简单描述一下:当你在AI生成图片的那一刻,会有一个嵌入器开始工作,它会在图像的频率分量和颜色通道上做极其细微的调整,调整幅度在人眼感知的阈值之下——你肉眼看到的图和没有水印的图完全一模一样。但这些调整在数学上是有意义的,它们构成了一种分布在整张图上的隐形签名。关键在于这个签名的分布方式:它不是像传统水印那样集中在某个角落或者某一块区域,而是弥散在整张图片的每一个部分,所以你裁剪掉任何一个区域,剩下的部分依然包含足够的信号,你压缩、加滤镜、调色、旋转、转格式,水印都还在。然后会有一个对应的检测器来专门识别这些隐形签名,非常准。而且他们之前还发过一篇用SynthID给AI生成的文字打水印的论文,不过比较早了,2024年。

之前我就在那篇黑暗森林的文章里提过,SynthID一直是我认为最好的AI检测方式,不过之前最大的问题就是只有Google他们自己玩。现在OpenAI带头表率、加入生态,我觉得这个信号本身就是一件非常重要的事。未来可以预期到有越来越多的厂商会加入这个生态里去,因为你只要做多模态,就逃不开内容追溯的问题。

最后,用OpenAI在Blog里说的话收尾:没有任何单一的内容溯源技术能够孤军奋战。同样的,整个互联网的生态在AI的冲击之下,也没有任何单一的公司能够孤军奋战。OpenAI和Google今天做了一个好的表率,接下来,就看其他人了。