OpenAI 的 ChatGPT 将在欧洲开始在其生成的文本中标注“由人工智能生成”。这一举措旨在帮助识别和区分人类创作与机器生成的内容

OpenAI 正在为欧盟用户带来重大变化。通过 ChatGPT 和 Codex 生成的文本将在未来几周包含不可见的数字水印，以便机器识别其由人工智能生成。

OpenAI 公司于 10 月 5 日星期一宣布了这一新系统。名为 textGrain 的技术将逐步部署到欧盟范围内 ChatGPT 和 Codex 的选定文本输出中，涵盖所有资费等级的用户。此举部分原因是为了符合新的《人工智能法案》（AI Act）要求。

但这并非用户在屏幕上可见的传统水印。文本不会包含任何警告或特殊符号。textGrain 的工作原理不同——它在生成回答时轻微影响单个单词的选择，从而在文本中形成一种统计模式，可被专用检测器识别。

此外，该水印即使在将文本普通复制（例如到文档、电子邮件或网页）后仍保留其中。

水印存在局限性

OpenAI 同时指出，该技术绝非百分之百准确。文本越短或被修改越多，就越难可靠地确定其来源。

在其中一个测试中，该系统对原始数百个 token 长的文本识别出水印的准确率约为 92%。但在用同义词替换了 10% 的词后，成功率降至约 66%。如果更改了 25% 的单词，检测器仅能识别出水印大约 17%**。

非常简短的回答、数学文本或翻译也存在困难。因此 OpenAI 强调，水印的缺失绝不意味着该文本由人类撰写。

同样适用相反原则：发现的水印仅表明文本可能由 OpenAI 系统生成或处理过，并不说明人为投入了多少工作、是否经过后续修改或由谁具体创建。

隐私问题同样重要。OpenAI 表示，水印不会包含有关特定用户、账户、所用提示词或对话本身的信息。

此外，检测器最初不对公众开放。访问权限将首先授予经批准的研究人员和专业组织，以协助评估其可靠性和可能的用途方式。

对于使用 API 接口的客户而言情况有所不同。他们可以在全球范围内对支持的模型自愿启用文本水印功能；默认设置下则保持关闭状态。

因此，在初步阶段，这一变化将主要影响欧盟地区 ChatGPT 和 Codex 的普通用户。OpenAI 计划在未来几周内逐步实施，并承认根据实际使用经验，文本标记方式还将继续发展演变。

Jaroslav Holý