行业事件
OpenAI 开放 API 文本水印选择加入,并计划在欧盟为 ChatGPT 与 Codex 推出水印
事件时间 1 个独立来源编辑评分 83/100本站发布
先了解这件事
OpenAI 已让部分 API 模型可选择启用文本水印,并称未来数周会在欧盟符合条件的 ChatGPT 与 Codex 文本中加入不可见水印。
变化是什么
API 默认关闭这一选项;检测器初期只向获批准的研究人员和专家机构开放,不面向公众。
对你意味着什么
开发者和欧盟用户在把检测结果当作证据前,需要理解地区性发布、API 的选择加入机制和技术局限。
OpenAI 于 10 月 5 日发布了其欧盟文本来源规则方案。公司称,全球 API 客户现在可为部分模型选择启用文本水印,但 API 默认仍关闭该选项。
对于欧盟内符合条件的 ChatGPT 和 Codex 文本输出,OpenAI 计划在未来数周加入不可见水印。该公司将这项嵌入在词语选择中的统计信号称为 textGrain,同时明确说明:阳性检测结果不能识别用户、证明所有权、判断事实准确性,也不能衡量人对文本的贡献。
OpenAI 不会在发布时向所有人开放文本检测器。获批准的研究人员和专家机构可以申请使用,以帮助评估可靠性和负责任的使用方式。其评测也指出,短文本或受约束文本更难检测,编辑会削弱水印信号。
对于 API 团队,眼下要做的是判断选择加入的水印是否适合产品的透明度流程,并测试它对目标输出的影响。对于欧盟 ChatGPT 与 Codex 用户,这是地区性推广,不是全球默认设置。在基于检测结果作出合规或政策判断前,应阅读 OpenAI 公告。
事实核查
报道时间线
- 一手来源OpenAIOur approach to EU text provenance rules