跳到正文
热点事件持续更新

OpenAI 推出 textGrain 水印应对欧盟 AI 法案,测试暴露短板

1 篇报道1 个报道来源1 小时前更新

先了解这件事

AI 综述

OpenAI 十月发布文本水印技术 textGrain,目的是配合欧盟 AI Act 第 50 条的要求。该条款已于 8 月 2 日生效,规定 AI 生成的文本须以机器可读方式标记。OpenAI 称其检测器的误报率为 1%,即每 100 段未加水印的文本中约 1 段会被错误标记。 但测试结果显示这项技术有明显局限:200 token(约 150 词)的短文本中约 80% 能被检出,400 token(约 300 词)则约为 95%;而同义词替换会明显削弱检测,替换 10% 的词检出率从 92% 降到 66%,替换 25% 后只剩 17%。欧盟的规则本身不要求对短于 200 token 的输出加水印。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月5日
  1. IEEE Spectrum (AI)
    IEEE Spectrum 分析 OpenAI textGrain 水印能否满足 EU AI Act 透明度要求

    欧盟 EU AI Act 第50条已于 8 月 2 日生效,要求 AI 生成文本以机器可读方式标记。OpenAI 十月发布的水印技术 textGrain 在测试中对约 150 词(200 token)文本检出率约 80%,400 token 约 95%;同义词替换 10% 使检出率从 92% 降至 66%,替换 25% 降至 17%。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。