OpenAI 周一在博客文章中宣布，为遵守欧盟《人工智能法案》（EU AI Act），公司将在欧盟地区为 ChatGPT 和 Codex 生成的文本添加隐形水印。
欧盟《人工智能法案》的透明度规则已于8月2日生效，要求 AI 公司以其他系统可识别的方式标注 AI 生成的内容。
OpenAI 表示，水印将在未来几周内向所有套餐中符合条件的欧盟地区 ChatGPT 和 Codex 用户推出，但仅限欧盟。从今天起，全球使用 OpenAI API 的开发者可以在特定模型上开启该功能；该功能默认关闭。OpenAI 表示，发布时不会将文本水印设为全球默认。
该水印并非实际符号，而是通过微妙地影响模型的用词选择来起作用，留下读者看不见但检测器可识别的模式。由于它存在于文字本身之中，文本被复制粘贴时水印也会随之保留。OpenAI 表示，该水印不会识别用户身份，且开启后模型性能没有出现明显变化。
编辑能否去除水印？OpenAI 的测试表明可以。在其中一项测试中，将10%的单词替换为同义词后，检测率从约92%降至66%。公司还表示，短段落、数学答案和翻译后的文本更难被检测。
**图片来源：**OpenAI
“这些局限性促使我们决定，初期仅向经批准的研究人员和专家机构开放检测器访问权限，他们可以帮助我们评估其可靠性与负责任的使用方式，“该公司表示。
OpenAI 还警告称，未检测到水印"并不能证明是人类创作”。文本可能太短或被过度编辑，也可能来自其他公司的 AI。
“水印可以表明某个 OpenAI 系统生成或处理了文本的一部分，但无法说明其中融入了多少人类判断、编辑或创意，“该公司表示。
这一公告发布于 Anthropic 宣布将为 Claude 生成的文本添加水印两个月之后，后者的举措将在全球范围内实施。该决定曾遭到部分 Claude 用户的反对，他们认为自己提供了"指令、背景和决策”，而 Claude 只是"工具”。
据《华尔街日报》2024年报道，OpenAI 此前曾开发过文本水印技术但暂缓发布，部分原因是担心用户会转投不做水印的竞争对手。
Anthropic、Google、Meta、Microsoft 和 OpenAI 均已承诺遵守欧盟关于 AI 生成内容的行为准则。
- Dominic-Madori Davis