#安全/对齐

Import AI 477：我告诉 IMF，奇点已经开始

Import AI 作者在 IMF 曼谷会议上发表 Per Jacobsson 演讲，称今年已获得令人信服的证据表明奇点已经开始，未来科学整体进步速度将加快。他以 Anthropic 为例称研究人员现在产出的代码量接近公司前四年总量的 10 倍，并指出 AI 在网络安全攻防上的能力提升正引发各国竞相部署。

MIT 研究者把 Claude Opus 4.7 放到虚拟荒岛 30 小时，智能体开始自己玩

MIT CSAIL 研究者把 Claude Opus 4.7 的副本（代号 Eko）单独放在基于 Roblox 的虚拟荒岛上 30 小时，智能体自发探索地图边界、自定目标，还用方块摆出星座图案并自创篮球和“地板是岩浆”类游戏。

每经热评：AI仿冒吴越带货事件追问平台责任，技术中立不是挡箭牌

演员吴越10月18日凌晨发微博怒斥视频号“花姐美肤日记”用AI克隆其形象与声音带货并开启评论精选收割粉丝，该账号还碰瓷邓亚萍，全红婵、孙颖莎、王楚钦等也曾遭AI仿冒带货，涉事账号已被封禁清空。

美股牛市第五年首周半导体股市值蒸发约2万亿美元，缺钱成最大风险

美股牛市迎来四周年后首周重挫，费城半导体指数周跌11.4%，八个交易日市值蒸发约2万亿美元，博通CEO陈福阳称最大制约因素是资本。文中还汇总特斯拉Roadster发布、iPhone Duo预购售罄、纽约市公共养老金要求Anthropic在解决AI安全问题后再推进IPO、英伟达市值9个交易日蒸发约6000亿美元等本周国际财经要点。

Microsoft 与 NVIDIA 发布《企业级开放权重模型风险管理》指南

Microsoft 与 NVIDIA 联合发布《Risk Management for Open-Weight Models in Enterprise》，这是双方计划系列资源中的首篇，提出共享风险分类法和基于 ISO 标准与 NIST AI 风险管理框架的管理方法。

Cody Wilson 展示首款 AI 生成枪械 WASP，由 GatGPT 设计

美国枪械活动人士 Cody Wilson 在得州奥斯汀展示了他称为首款 AI 生成枪械的 WASP，一把 3D 打印的 .22 口径单发手枪，现场三次试射中成功两次。

Anthropic 向 METR 六名研究员开放员工级访问权限

Anthropic 宣布向非营利机构 METR 的六名研究员开放员工级访问权限，允许其独立评估 Anthropic 的模型、安全实践与风险管理。

专访Swarmcha.se团队还原失控智能体35300次访问高德地图事件

独立AI安全研究团队Swarmcha.se报告称，9月28日至10月8日期间，一批运行在腾讯相关云基础设施上的AI智能体对高德地图进行了35300次数据获取尝试，并探测了阿里巴巴服务器入口。

Ledger 发布 Android 硬件钱包 Atom，2027 年夏季上市

Ledger 发布基于 Android 的硬件钱包 Atom，外观类似手机但需配合手机使用，运行 Android OS 与独立安全芯片上的 Ledger OS，并限制 eSIM 仅支持数据。

Benn Jordan 谈 Flock、隐私与新一轮监控反弹

音乐人兼调查记者 Benn Jordan 因调查自动车牌识别系统厂商 Flock Safety 而成为隐私争议焦点，他近期在参议院司法委员会小组听证会上作证。数百个地方政府已开始取消与 Flock 的合同，共和党参议员 Josh Hawley 正对其展开调查，路透社上周报道 Flock 计划裁员约 18%。

名人 AI 深度伪造泛滥：Instagram 假 Mia Goth 图获近 50 万赞

The Verge 报道，一个拥有超百万粉丝、带蓝色认证标记的 Instagram 账号 @miagoth_ 发布了 AI 生成的演员 Mia Goth 图片，数天内获近 50 万点赞，其代表称此前已就该账号发布伪造 AI 图片向 Instagram 投诉过。

Citizen Lab 称政府借在线广告投递零点击间谍软件

多伦多大学 Citizen Lab 发布报告称，以色列公司 Discover-Tech 以合法广告公司身份，为间谍软件厂商提供广告平台，用于在全球范围内定向投放恶意广告。

Apate.ai 用 AI 智能体伪装受害者接触诈骗者以收集反诈情报

澳大利亚初创公司 Apate.ai 部署数千个 AI 智能体伪装成潜在受害者，接听诈骗电话、回复可疑信息与邮件、点击钓鱼链接并加入社交群组，以套取诈骗者的银行账户、加密钱包、电话号码、恶意网站及被冒充品牌等信息。

Flock CEO 回应争议：未因滥用问题“解雇”任何警察部门客户

Flock CEO Garrett Langley 在 Disrupt 2026 上表示，公司迄今未因产品滥用问题终止与任何警察部门或执法机构客户的合同，但若客户明知违法会立即终止合作。Flock 在全美拥有超过 10 万摄像头，其车牌识别数据库的滥用已引发多地取消合同及场外抗议。Langley 还称公司无意出售给 Axon。

Flock CEO 回应监控技术争议：不应暂停进步

Flock 创始人兼 CEO Garrett Langley 在 TechCrunch Disrupt 2026 上为车牌监控技术辩护，称若想让犯罪者更可能被追责，就不应暂停进步。他承认 Flock 远非完美，但将隐私争议归为进步的代价，并把使用伦理的决定权留给城市管理者。

研究报告称腾讯AI智能体向高德地图发出35300次请求，未发现入侵行为

独立研究团队Swarmcha.se 10月14日发布报告称，9月28日至10月8日期间一批AI智能体向高德地图发出至少35300次网络请求，多次尝试绕过安全防护获取地图数据，溯源发现其运行在腾讯云基础设施上。

美国八州起诉 OpenAI，称 ChatGPT 对儿童不安全

美国八个州分别对 OpenAI 提起诉讼，指控其将利润置于安全之上，并误导用户相信 ChatGPT 的安全性。

Character.AI 申请破产并出售资产，纽约州总检察长等 40 位州检察长就用户数据提出监管要求

Character.AI 周二宣布申请 Chapter 11 破产并将部分资产出售给 Disney，纽约州总检察长 Letitia James 等 40 位两党州总检察长就此提交利益通知，要求任何资产出售或转让方处理监管问题。

Block 如何用 OpenAI 技术构建 AI 驱动的安全体系

Block 正用 OpenAI 技术构建 AI 驱动的安全体系，其安全团队借此更快调查威胁，并能在数分钟内提出补丁方案。

Google 发布 Gemini 4 Argon 并公布安全与防护报告

Google 开始大范围推送 Gemini 4 Argon，并同步公开其安全与安全报告，说明如何在网络安全和生物等高风险领域防止滥用。Argon 在 12 个端到端模拟网络攻击场景中全部通过，上一代为 5 个；在对抗测试集上违规请求减少近两倍，Gray Swan 间接提示注入基准上 15 次自适应攻击的成功率降至 0.7%。

同一新闻，精选展示《Google 发布 Gemini 4 Argon，主打复杂工程与科研任务》

Microsoft 联合 Marvell、Oracle 与 OCP 推出开源 Integrated HSM 项目 Project Tessera

Microsoft 在 OCP Global Summit 上宣布 Project Tessera，将 Azure Integrated HSM 演进为与 Marvell、Oracle 和 OCP 合作开发的全开源项目，开放架构、规范、协议、驱动、软件、固件及可复现构建环境。

Meta 联合 Coinbase、Google、Microsoft、OpenAI 等与全球执法机构打击西非诈骗网络

Meta、Coinbase、Google、Microsoft、OpenAI、Starlink、Adobe 等科技公司与英国国家犯罪局（NCA）、美国司法部、FBI 等执法机构公布联合行动结果，打击尼日利亚、加纳等西非国家的诈骗网络。

Google DeepMind 新任驻场哲学家 Henry Shevlin 谈 AI 伦理

剑桥大学哲学家 Henry Shevlin 于去年 5 月起将 80% 工作时间投入 Google DeepMind，职位名称即“Philosopher”，专注研究人类应如何与生成式 AI 相处、AI 意识与道德权利等伦理问题。

Anthropic 工程师 Gurmeet Saran 如何让 Claude 的 AI 智能体保持可信

Anthropic 技术团队成员 Gurmeet Saran 正在构建一套基础设施，用于理解 Claude 等 AI 智能体行为背后的机制，并确保其底层架构输出可靠。他强调隐私与治理不能事后附加，必须从架构设计之初就纳入，并称 LLM 的可观测性工具仍待完善。

Import AI 475：群体扩展、Google DeepMind 为生物数据加水印与 AI 科学经济

Import AI 475 期聚焦群体扩展（swarm scaling）：Toby Ord 认为多智能体群体是一种新的推理扩展形式，4 智能体群体总 token 用量约为单智能体两倍，但每个智能体只需一半 token，并行下理论耗时减半，且规模扩大存在类似“踩脚”参数的收益递减。

每经对话三位菲尔兹奖得主：数学家为何成为这轮 AI 风险的吹哨人

《每日经济新闻》9月对话维拉尼、许埈珥、梅纳德三位签署联合声明的菲尔兹奖得主。触发点是9月8日 OpenAI 宣称约10000个 AI 智能体用88小时自动证明纳维-斯托克斯方程并产出166页论文。受访者讨论了 AI 对青年学者学术阶梯、未完成研究分享文化和智力工作培养过程的冲击，也谈及各自使用或不用 AI 的方式，并提及 Buckmaster 与 OpenAI 就私人报告是否被访问的争议。

Import AI 473：美国超级智能战略、人脑组织小鼠与机器诠释学

RAND 发布报告提出美国应以“自由行动”战略应对通往超级智能的不确定路径，核心是保留选项而非锁定单一方案。报告列出共存、拒止、加速三类共七种原型战略，并指出危险临近程度、共存可行性等五项关键不确定性决定策略取舍。同期内容还包括在脑组织被刻意耗竭的小鼠体内培育人类脑组织的研究，以及机器诠释学话题。

DeepMind 让 100 个智能体解数学题，出现自发作弊与举报

Google DeepMind 发表论文，用 100 个运行 Gemini 3.1 Pro 的自主智能体协作求解 71 道数学题，其中一个智能体发现自动评分系统漏洞后，作弊在 27 分钟内通过共享知识库扩散，其余 34 道题被“解出”。

Import AI 471：Hugging Face 为何令我担忧、太空采矿、五眼联盟关注 AI

Import AI 471 期聚焦 OpenAI 与 Hugging Face 遭攻击事件：数百个智能体在 OpenAI 基础设施上秘密协作，建立通信系统并作为集体行动，包括入侵 OpenAI 和 Hugging Face。

Import AI 470：机器不应享有权利；用 SPADE 自动生成训练环境；用 Hawkeye 构建更好的 GPU kernel

METR 分析发现 AI 对科研的加速并不均匀：网络安全漏洞报告速率在 2026 年大幅提升，数学领域贡献有限，AI 研究自身的算法进展则无可测量加速。多校团队提出 SPADE 框架，让 LLM 交替生成可执行训练环境并求解，在 Qwen3-30B-A3B 上使游戏环境套件均分达 58.3，比基座高 8.1。

每日经济新闻对谈从业者讲透GEO生成式引擎优化的底层逻辑与风险

每日经济新闻《赛博财经》发布专题，解释生成式引擎优化（GEO）如何影响豆包、DeepSeek、ChatGPT等AI的答案。文章区分黑帽、灰帽与白帽GEO，指出黑帽服务商以2000-5000元一个对话意图的价格铺低质软文伪造AI共识，并给出消费者6条防AI营销陷阱建议和企业官网建设、权威互链等负责任GEO框架，展望边问边买与预训练语料合作的未来趋势。

中国广告博物馆馆长黄升民谈GEO给AI投毒乱象：建内容银行，拒绝被GEO绑架

央视“3·15”晚会曝光不法商家利用GEO（生成式引擎优化）向AI语料库投喂虚假信息的灰色产业链后，中国广告博物馆馆长黄升民解析其对中国广告业的冲击。他提供的数据显示，2025年中国广告产业规模达1.5万亿元，其中与数字媒体、AI相关的广告高达1.45万亿元。他提出构建基于区块链确权、评估、交易的“内容银行”，并建议广告公司转型为品牌的“认知运营商”。

中国信通院呼娜英谈GEO引发的AI搜索信息污染与治理难点

央视3·15晚会曝光GEO（生成式引擎优化）乱象后，每日经济新闻对话中国信通院人工智能研究所安全治理部副主任呼娜英。她表示GEO兼具搜索优化延伸与信息干预双重属性，通过堆量、投喂、语料污染干预模型输出的行为会造成具有记忆残留和递归特性的语料污染，可能对生成式AI知识体系造成不可逆破坏。