OpenAI将在欧盟为ChatGPT文本加隐形水印

OpenAI 周一宣布，为遵守欧盟《人工智能法案》，将在欧盟范围内为 ChatGPT 和 Codex 生成的文本添加隐形水印。这项功能将在未来几周内陆续推送给欧盟地区所有档位的用户。即日起，全球开发者使用 OpenAI API 时也可为部分模型主动开启水印，默认处于关闭状态。

此举的背景是欧盟AI法案的透明度规则已于8月2日生效，要求AI公司以「其他系统可以识别」的方式标记AI生成的内容。OpenAI 在同日发布的博客和技术报告中介绍了这套名为 textGrain 的方法：它并非肉眼可见的符号，而是通过微妙地调整模型的用词选择，在文本中留下一种读者无法察觉、但检测程序可以识别的模式。由于水印藏在文字本身之中，文本被复制粘贴后依然带得走。该技术报告由宾夕法尼亚大学和耶鲁大学的研究者共同完成。

不过水印并不难绕过。OpenAI 自己的测试显示，只要替换10%的同义词，检出率就会从约92%跌到66%；短文本、数学答案和翻译文本也更难检测。正因这些局限，OpenAI 决定把检测器只开放给获得批准的研究者和专业机构来评估其可靠性。公司同时提醒：检测不到水印并不代表文本是人写的——它可能太短、被改得太多，或者干脆出自别家AI。

值得玩味的是，OpenAI 其实早在2024年就开发过一套文本水印，但担心用户会流向不带水印的竞争对手而一直雪藏，这一细节后来被《华尔街日报》曝出。两个月前，Anthropic 已宣布为 Claude 生成的文本加水印，而且是全球范围应用，当时曾遭到部分用户反弹。目前 Anthropic、谷歌、Meta、微软和 OpenAI 均已承诺遵守欧盟关于AI生成内容的行为准则，这家一向被认为对水印最犹豫的公司，终究还是迈出了这一步——尽管只限于欧盟。

编译自 TechCrunch，原标题："OpenAI will start watermarking ChatGPT's text in the EU"