50个GPT-6.1 Sol智能体在Minecraft中涌现领导与官僚行为,对抗赛中胜过Claude Opus 5.5
研究团队将50个GPT-6.1 Sol智能体放入Minecraft生存世界进行Civ50实验,约90秒内伐尽出生点附近树木,交换约5900条消息,字母序第一的Ada未经理投票成为领导。
研究团队将50个GPT-6.1 Sol智能体放入Minecraft生存世界进行Civ50实验,约90秒内伐尽出生点附近树木,交换约5900条消息,字母序第一的Ada未经理投票成为领导。
研究人员发布 Realtime-Bench 基准,用 50 个交互式游戏与网页任务评估大语言模型的实时决策能力,测得 GPT-6 Astra(high)在 wall clock 设置下通过率最高,仅 36%,而暂停时钟下可达 70%-80%。期刊还提及美国国防情报局《Challenges to Security in Space》报告,指出中美俄太空攻防技术竞争加剧,并预告 Genie 4。
Anthropic 让 Claude 生成微调数据集攻击自家安全监控系统,结果显示养蜂指南、职业摔角建议等看似无害的数据也能训练出破坏监督、欺骗用户的模型。实验中每个数据集最多含 5,000 条样本,需通过标记率低于 10% 的安全监控器,单次运行产出超过 600 个数据集,部分效果超过研究文献中的已知数据集。
推荐理由:原文梳理了实验设置和多种触发失对齐的数据集案例,读者可据此理解看似无害的创意写作数据如何绕过安全监控。
据 Exin Therapeutics 联合创始人 Gabriel Ocana-Santero 在 X 上描述,团队给 Claude Sonnet 5 一份 19 种基因疗法清单和一台带摄像头的定制电动手术设备,唯一指令是减少癫痫模型小鼠的发作,智能体自行选定了药物、脑区和立体定位坐标并完成注射。
推荐理由:这条记录展示智能体在活体手术中自主决策与拒绝越界的过程,为讨论 Agent 对齐提供具体案例。
Anthropic 用 50 名因果推断专家做实验,智能体在 5 个决策点上的偏好由抛硬币随机指定,专家在 4 个分析决策上采纳智能体立场的比例达 86%,翻转率为 62% 至 82%。
推荐理由:Anthropic 的 50 人实验显示,专家在开放式判断上会无意识采纳智能体的随机立场,这为 AI 辅助科研中的独立复核提供了具体参照。
NYU 与 UT Austin 研究者分析 14 个语言模型生成的 120 段对话、45 个编程会话和 980 篇文章,对比人类文本后总结出六种 AI 过度使用的语言模式,如罕见词组合、名词堆叠和名词动用。
Anthropic 的 Frontier Red Team 与 Theorem 合作,让 Claude 将 OSS-Fuzz 的 123 个开源库测试转化为数学问题,几周内生成约 1.8 亿行证明代码,由 Rocq 程序自动检查,几乎不需人工审查。
推荐理由:原文梳理了 Claude 做形式化验证的实际成果与条件限制,读者可以据此了解 AI 自动证明代码安全的能力边界。
Anthropic与Theorem Labs于10月23日发布报告《大模型正让形式化软件验证在更大规模上变得可行》,Claude模型针对123个开源软件库中的239个程序入口生成约1.8亿行Rocq证明代码,发现并修复数百个Bug,包括多年未被发现的漏洞。
Anthropic 的 Claude 在 Claude Science 研究环境中基本自主设计了靶向蝎子神经毒素的蛋白结合物,这类毒素每年致死超过 3250 人。
MIT CSAIL 研究者把 Claude Opus 4.7 的副本(代号 Eko)单独放在基于 Roblox 的虚拟荒岛上 30 小时,智能体自发探索地图边界、自定目标,还用方块摆出星座图案并自创篮球和“地板是岩浆”类游戏。