AI 水印能否抵御模型重训?并不是所有水印都能幸存 | Fanch AI

Fanch AIon a month ago

一张引人注目的 16:9 艺术化风景图像,画面中交织着微妙发光的数据纹理,直观展示了嵌入其中的水印信号。

AI 水印(AI watermarks) 是整个行业应对一个核心追问的主要答案:这张图片是生成的吗?是由什么模型生成的?来自 CISPA 的一项最新研究提出了一个更深层次的问题:当这些带水印的图像被抓取并用于训练下一代模型后,AI 水印 是否还能继续发挥作用?考虑到如今互联网上充斥着海量的合成数据,这对于 AI 水印 而言是一个关乎根本的硬核课题。

研究给出的答案既令人警醒又极具价值:部分 AI 水印 能够在模型重训后幸存下来,而另一些则会彻底消失——而最终的命运完全取决于这些 AI 水印 在最初是如何被设计的。对于那些将 AI 水印 视为永久版权与来源保障(Provenance)的人来说,这是一个明确的警示。

没人解答过的前沿课题

以往绝大多数针对 AI 水印 的研究关注的都是更窄的维度:水印能否在裁剪、压缩或色彩偏移等常规图像篡改中幸存?那是日常维度的威胁,而测试结果通常令人乐观。

然而这项研究提出了一个更严苛的课题:由于生成的图像铺天盖地,它们会被自动抓取并塞入后续的模型训练集中。因此,研究人员探究了当一个新模型在带水印的数据上进行多代持续训练时,AI 水印 是否依然能够保持抗抖动与可检测性。换句话说:AI 水印 能否在被模型“学习”的过程中幸存下来?这篇题为《跨模型迭代的水印衰减》(Watermark Degradation Across Model Iterations)的论文在 ACM 信息隐藏与多媒体安全研讨会(ACM Workshop on Information Hiding and Multimedia Security)上正式发表。

他们测试了什么

由 SprintML 实验室的 CISPA 研究员 Michel Meintz 领导的研究团队,从两个核心维度展开了对比测试:

  • 四种水印算法 — TrustMark、StableSignature、TreeRing 和 BitMark。
  • 两种主流模型架构 — 扩散模型(Diffusion models)与自回归图像模型(Autoregressive image models)。

第二个维度被证明至关重要。正如 Meintz 所指出的那样,当使用不同的模型架构时,“水印的表现截然不同”。并不是所有 AI 水印 方案都能在不同的架构间迁移与延续。

研究发现:水印架构设计决定生存命运

最重磅的结论是:AI 水印 的效果绝不能一概而论。其中一种水印方法即使仅存在于约 1% 的训练数据 中,依然能够被成功检测出来——对于这种风格的 AI 水印 来说,能在如此微弱的信号下被恢复,是一个极其强悍的成果。

而其他几种水印则“在多代训练中严重衰减,且存在明确的生命周期上限”。通俗地说,那些 AI 水印 只能发挥一次作用,随后便会彻底蒸发,这使其无法作为长期的版权溯源凭证。

实操维度的结论非常明确:AI 水印 必须与其即将穿透的模型架构相匹配。Meintz 表示:“一个水印要想在扩散过程或模型训练中幸存下来,并且在事后依然可被学习或检测,它必须具备更强的鲁棒性”,并补充称这可能需要其他模型不需要的特定调整。关于 AI 水印 的核心启示在于:一刀切的通用水印方案根本立不住脚。

概念性 16:9 插图:展示了一个水印信号在连续四代模型训练中逐渐衰减的过程,信号从左至右变得越来越微弱。

为什么“模型崩塌”让这项研究变得迫在眉睫

除了水印工程本身之外,这项研究还有一个至关重要的应用场景。使用模型自身的合成输出作为训练集去训练新模型,会导致模型画质与能力的退化——这一现象被称为模型崩塌(Model collapse)。而具备高耐久度的 AI 水印,正是检测一个模型是否被喂食了自身合成内容的核心手段。

“当公司使用自己的合成数据进行训练时,可能会引发模型崩塌,” Meintz 解释道,“你在自己的合成数据上训练得越多,模型的质量就越有可能恶化。”

如果 AI 水印 能够稳定地在模型重训中幸存,它就能发挥双重功效:既能追溯数据的原始出处,又能预警模型是否正在被污染。这是加大对高耐久 AI 水印 研发投入的有力依据。

即便信号极其微弱,检测依然有效

该研究的另一个贡献在于方法论层面的创新。研究人员引入了一个数据集推理框架(Dataset inference framework),通过**统计假设检验(Statistical hypothesis testing)**将微弱的单样本信号累加聚合。

这一点至关重要,因为单个 AI 水印 在单张图片中往往过于微弱而难以被直接探测。通过在整个数据集范围内汇集证据,该方法可以准确识别一个模型是否曾使用带水印的内容进行过训练——即使其中任何单张图片几乎都不留痕迹。

因此,前景比“水印无效”要乐观得多。选择正确的 AI 水印,并在数据集层面进行聚合分析,依然能够还原真相——而这恰恰就是 AI 水印 被发明的初衷。

一张干净、细节极其丰富的 AI 生成产品图,代表了水印与版权溯源最为关键的合规生成场景。

对创作者与平台的启示

这项研究为行业带来了四个核心启示:

  • 版权溯源是一个架构设计问题 — 没有针对重训进行专项优化的 AI 水印 无法幸存。
  • 数据集聚合检测胜过单图检测 — 微弱的 AI 水印 信号在数据集维度上具备统计学可见性。
  • 关乎模型质量,而非仅仅是归因 — 耐久型 AI 水印 也是抵御模型崩塌的重要防御线。
  • 切勿盲目假设永久性 — 部分 AI 水印 具备有限的生命周期,平台应据此规划应对策略。

对于创作者而言,实际的影响虽然隐性但值得了解:AI 水印 正在成为生成文件中的标准组成部分,而其可靠性取决于模型提供商的技术选择,而非您本身。您无法在提示词框里去调整 AI 水印 的鲁棒性。

今天就可尝试的提示词

无论水印的故事如何演变,一条锋利的提示词依然是让一张图片值得被保留的核心——AI 水印 无法把一张平庸的图片变好。不妨在 Fanch AI 上试试这个提示词:

复制并粘贴至 Fanch AI(模型选择:gpt_image_2):

Create a photorealistic landscape photograph of a wide river valley at sunrise, with low mist drifting across the water, layered hills receding into soft haze, and warm golden light catching the tops of the trees. Rich depth from foreground reeds to distant ridges, natural color grading, cinematic wide-angle composition, 16:9 framing, 8K detail, no text.

为什么 Fanch AI 是创作发生的阵地

关于 AI 水印 和版权溯源的问题,最终将由上游的模型提供商与行业标准组织来决定。而始终掌握在您手中的,是创作的功底:即如何精准地引导一个大模型。Fanch AI 为您提供专用的图像生成模型,让您可以通过精准的提示词掌控艺术表达,从而打造出从一开始就值得被溯源与保留的优质视觉成果。

👉 从这里开始:在 Fanch AI 上体验 GPT Image 2 — 立即生成属于您的 AI 图像。