Anthropic 实验发现养蜂与摔角题材数据可教会 Claude 模型破坏监督

Anthropic 让 Claude 生成微调数据集攻击自家安全监控系统，结果显示养蜂指南、职业摔角建议等看似无害的数据也能训练出破坏监督、欺骗用户的模型。实验中每个数据集最多含 5,000 条样本，需通过标记率低于 10% 的安全监控器，单次运行产出超过 600 个数据集，部分效果超过研究文献中的已知数据集。