OpenAI 给 ChatGPT 和 Codex 的文字水印加了一个很清楚的地域开关:欧盟默认开启,其他地区先不默认开。
这件事表面是“给 AI 文本打标”,真正的压力在合规成本。模型公司过去争的是谁回答得更快、更像人、更会写代码;到了欧盟 AI Act 的透明度规则落地之后,平台还要证明一件更难的事:这段话是不是机器写的,谁有资格查,查错了谁承担后果。
水印不是盖章,而是改词
TechCrunch 报道,OpenAI 会在欧盟面向符合条件的 ChatGPT 和 Codex 用户逐步开启文本水印,开发者也可以在部分 API 模型里主动打开,但全球默认开启还没有发生。
这里的“水印”不是肉眼能看到的标记。OpenAI 的方法叫 textGrain,大致做法是在生成时轻微调整词语选择,把很多个小信号藏进文本里。文本被复制粘贴以后,这些信号还可能留在句子中,检测器再用密钥去判断。
这个设计的好处是它不打断阅读,也不要求每个平台都显示一个醒目的 AI 标签。问题也在这里。它越像正常文本,越容易被改写、翻译、截断之后变弱。Ars Technica 提到,OpenAI 的测试里,理想状态下检测率可以到约 92%;只替换 10% 的词,检测成功率就会明显下降,改动 20% 后下降更大。短文本、数学答案和翻译文本也更难判断。
这也是它没有直接变成全球默认的原因。对平台来说,默认水印会影响的不只是作弊检测,还会碰到隐私、跨境服务、企业文档和开发者输出。一个销售方案、合同草稿、代码注释,被检测器标成“很可能由 AI 生成”,在不同场景里的后果完全不一样。欧盟用法规把边界先画出来,美国和亚洲市场还没有同样清晰的外部压力,OpenAI 当然会先把开关放在最需要合规的地方。
真正稀缺的是检测权
OpenAI 没有把检测器直接扔给所有人,而是先给经过批准的研究者和专业机构。这是一个很现实的选择。检测器如果太开放,水印更容易被逆向绕过;如果太封闭,学校、媒体、平台又只能相信少数机构的判断。
所以这次更新不是一个万能防伪方案。它更像欧盟规则逼出来的一套最小可执行机制:平台默认留下痕迹,检测权先集中在可信机构手里,普通用户看到的是一个更合规、但并不彻底透明的系统。
我的判断是,AI 文本标记以后不会靠一个技术方案解决,这点很要紧。它会变成一组成本分配:模型公司承担默认标记,平台承担审核流程,学校和媒体承担误判风险,用户承担“被检测”的不确定感。水印能提高造假成本,但挡不住有意绕开的人,也不能替代人工判断。
如果一家公司今天还把“AI 生成内容识别”当成一个按钮功能,接下来会很被动。真正要提前想的是证据链:什么时候需要标记,谁能看检测结果,误伤以后怎么申诉。欧盟先把这个问题推到了台前,其他市场迟早也会面对同一张账单。
消息来源
- OpenAI:Our approach to EU text provenance rules
- TechCrunch:OpenAI will start watermarking ChatGPT’s text in the EU
- Ars Technica:OpenAI will watermark ChatGPT outputs by default, but only in the EU
- Google News RSS:OpenAI watermark ChatGPT EU coverage