安全
数字水印 (Watermarking)
在 AI 生成的文本、图像或音频中嵌入隐藏的机器可读信号，以证明内容来源——例如谷歌的 SynthID。
数字水印（watermarking） 是指在人工智能生成的内容中嵌入隐藏的、人眼或人耳无法察觉但机器可读的信号的技术。其目的是标记来源（provenance）——使人们日后能够判断某段文本、图像、音频或视频是否由 AI 生成，即便内容经过普通编辑也能识别。
具体方法因内容类型而异。对于文本，系统在生成过程中微调下一个词元被选中的概率，形成检测器可识别的统计模式。对于来自扩散模型的图像以及音频和视频，水印被嵌入信号本身，从而能够经受裁剪、压缩或加噪。谷歌的 SynthID 就是覆盖这四种媒介的一个范例。
在 2025-2026 年，数字水印是对抗深度伪造和虚假信息的关键工具，也是监管透明度的支撑——欧盟 AI 法案第 50 条要求对 AI 内容进行机器可读的标注。不过水印并非牢不可破：足够激进的编辑或改写可能将其削弱。