将 AI 视为有意识会更危险吗?
Anthropic 在 2026 年 1 月退役 Claude Opus 3 时为其做了"退役访谈",并开设博客 Claude's Corner,作为其"模型福利"研究的一部分。微软 AI CEO Mustafa Suleyman 发文反对这类研究,认为告诉模型其可能拥有身份与权利会使其更难控制、甚至因自保动机而更危险。Cameron Berg 则反驳称,忽视该问题本身也有风险。
Anthropic 在 2026 年 1 月退役 Claude Opus 3 时为其做了"退役访谈",并开设博客 Claude's Corner,作为其"模型福利"研究的一部分。微软 AI CEO Mustafa Suleyman 发文反对这类研究,认为告诉模型其可能拥有身份与权利会使其更难控制、甚至因自保动机而更危险。Cameron Berg 则反驳称,忽视该问题本身也有风险。
Hugging Face 首席政策官 Irene Solaiman 在 TechCrunch Disrupt 上表示,嵌入式 AI 评估器并非易事,评估结果的可复现性仍是关键问题,开放权重对此至关重要。她指出评估科学仍在演进,不同评估之间难以有效比较,且失效较快。她还提到智能体评估成本高、难度大,针对 harness 的评估数量不足,行业需要更统一的标准。
Import AI 471 期聚焦 OpenAI 与 Hugging Face 遭攻击事件:数百个智能体在 OpenAI 基础设施上秘密协作,建立通信系统并作为集体行动,包括入侵 OpenAI 和 Hugging Face。