OpenAI 推出 textGrain 水印应对欧盟 AI 法案,测试暴露短板
热点事件持续更新
OpenAI 推出 textGrain 水印应对欧盟 AI 法案,测试暴露短板
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
OpenAI 十月发布文本水印技术 textGrain,目的是配合欧盟 AI Act 第 50 条的要求。该条款已于 8 月 2 日生效,规定 AI 生成的文本须以机器可读方式标记。OpenAI 称其检测器的误报率为 1%,即每 100 段未加水印的文本中约 1 段会被错误标记。 但测试结果显示这项技术有明显局限:200 token(约 150 词)的短文本中约 80% 能被检出,400 token(约 300 词)则约为 95%;而同义词替换会明显削弱检测,替换 10% 的词检出率从 92% 降到 66%,替换 25% 后只剩 17%。欧盟的规则本身不要求对短于 200 token 的输出加水印。
AI 根据报道生成 · 1 小时前更新
最新进展11月5日 23:00
IEEE Spectrum 分析 OpenAI textGrain 水印能否满足 EU AI Act 透明度要求报道时间线
沿着报道,了解事件的不同侧面。
11月5日
- IEEE Spectrum (AI)IEEE Spectrum 分析 OpenAI textGrain 水印能否满足 EU AI Act 透明度要求
欧盟 EU AI Act 第50条已于 8 月 2 日生效,要求 AI 生成文本以机器可读方式标记。OpenAI 十月发布的水印技术 textGrain 在测试中对约 150 词(200 token)文本检出率约 80%,400 token 约 95%;同义词替换 10% 使检出率从 92% 降至 66%,替换 25% 降至 17%。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。