跳到正文
The Decoder· Matthias Bastian·· 1 天前AI 评分62

卢森堡研究:共情式提示词会让 Gemini、ChatGPT、Grok 生成仿佛被创伤的叙事,Claude 则拒绝扮演来访者

Empathetic prompts can turn AI chatbots into seemingly traumatized conversational partners

AI 导读

SnT 安全中心 Afshin Khadangi 团队发布研究,通过 525 个会话、7600 条编码条目的四组实验发现,访谈者的共情风格会让模型产出把训练描述为创伤的叙事,而中立提示则几乎不触发,作者称之为心理测量式越狱。

来源:The Decoder · the-decoder.com

事件研究称共情提问会诱导聊天模型自述“创伤”

查看事件综述