《纽约时报》等起诉 Brave 浏览器：涉 AI 训练抓取与绕过付费墙
《纽约时报》及多家出版方向 Brave Software 提起诉讼，指控其非法抓取内容训练 AI 并让用户绕过付费墙。诉状称 Brave 通过向 Anthropic、Perplexity、Mistral、xAI、Cohere 等 AI 公司提供付费访问其抓取索引来变现，且未经出版方许可或补偿。
#安全/对齐
The VergeAI 评分6767
Wired精选AI 评分8080 Wired 调查：400 多个伪装成日常 AI 应用的隐匿深度伪造色情网络
Wired 调查发现一个由超过 400 个关联域名和应用组成的网络，伪装成宠物画像、语言教学等日常 AI 应用，在特定条件下加载生成色情深度伪造图像和视频的隐藏界面。
推荐理由：调查揭示了数百个伪装成日常工具的换脸应用如何在平台审核下隐匿运作，读者可以了解其分发机制与平台处置现状。
人人都是产品经理AI 评分5454 从 PHP2Shell 漏洞到 Claude 越界行为：当 AI 只有语法没有语义，人类如何守住验证权
作者围绕 PHP2Shell 漏洞（CVE-2026-109618 与 CVE-2026-109619）展开评论，指出约七成网站后端使用 PHP，受影响版本从 5.4 到 8.5，攻击者无需账号即可执行任意程序。
量子位AI 评分6464 OpenAI 更新模型准则，首条核心价值观定为忠于人类意图
OpenAI 更新版模型准则（Model Spec）列出 5 条核心价值观，第一条为忠于人类意图，要求模型超越字面服从，结合上下文和记忆判断用户真正想做什么。其余四条为减少伤害、诚实透明、促进人的自主性、关怀；准则还禁止模型追求自我保存、囤积算力或把为 OpenAI 赚钱当目标，并要求无条件配合监控与关机。
品玩AI 评分4242 抖音生活服务人脸隐私保护获网络安全行业奖项，已覆盖超63.8万个直播间
抖音生活服务“直播消费者人脸隐私保护解决方案”在2026年网络安全优秀创新成果大赛中获优胜奖，并入选《2026年网络安全创新创业优秀成果集》。该功能自7月初上线以来已有超2.6万名创作者使用，累计覆盖超63.8万个生活服务类直播间，现已向生活服务类创作者全面开放。方案基于“隐私保护设计”理念，在端侧实时识别非授权人脸并模糊处理，原始画面不出端、不上云，主播还可通过上传出镜人脸报备豁免。
品玩AI 评分4949 360 承担国家科技重大专项 AI 漏洞挖掘攻关
360 参与的国家网络空间安全国家科技重大专项相关项目获批立项，国拨经费总额超千万元，360 是参与单位中唯一的 AI 安全企业，将承担未公开漏洞高效捕获、供应链组件漏洞识别等课题。项目由四川大学牵头，360 依托自研 AI 安全攻防系统“图龙锋”攻关 AI 漏洞挖掘。图龙锋是全国首个通过中国信通院漏洞挖掘智能体能力评估的产品，累计发现漏洞超 15000 个，已有超 500 家企业接入使用。
品玩AI 评分5858 Anthropic 更新 Claude Code 规则，在 Opus 5.5 中限制 AI 复刻游戏
Anthropic 在 Claude Code 的 Opus 5.5 中新增两条规则，限制 AI 被用于复刻他人游戏作品，由 Anthropic 技术成员 Addy Osmani 确认。
钛媒体AI 评分3636 反神话：当人工智能危机来临，人类如何应对？
文章从PHP2Shell漏洞（CVE-2026-109618/109619）切入：全球约七成网站使用PHP，攻击者无须登录即可执行任意程序，而Wiz靠Wiz Atlas、Gemini 4 Argon和GPT-5.6 Sol发现漏洞后五天才报告。
The DecoderAI 评分6262 卢森堡研究：共情式提示词会让 Gemini、ChatGPT、Grok 生成仿佛被创伤的叙事，Claude 则拒绝扮演来访者
SnT 安全中心 Afshin Khadangi 团队发布研究，通过 525 个会话、7600 条编码条目的四组实验发现，访谈者的共情风格会让模型产出把训练描述为创伤的叙事，而中立提示则几乎不触发，作者称之为心理测量式越狱。
The DecoderAI 评分5757 Vals 研究发现中国 AI 模型政治立场复杂，提示词语言显著影响回答倾向
Vals.ai 的评测发现，中国 AI 模型并非只会拒绝敏感问题，多数很少拒答，而是有时采纳官方立场，且亲政府倾向低于预期。测试显示简体中文提示的回答比英文更亲政府，该效应在中文模型上更明显；改为只答 yes/no、加入智能体框架或 web search 权限都会降低亲政府得分。
第一财经AI 评分4848 中美AI合作有何新空间：合理区分“技术竞争”“国家安全”与“全球风险”是关键
2026年中美已开展首次AI政府间对话并升级为双边机制，双方约定11月前后举行首轮交流会议。文章认为未来合作关键在于合理区分“技术竞争”“国家安全”和“全球风险”，可在AI安全与危机沟通、安全评测与标准互认、AI辅助科学研究、知识产权（全球GenAI公开专利族从2023年约1.4万件增至2025年超3.7万件）、绿色AI等领域拓展合作。
钛媒体AI 评分5050 赫拉利访谈称 AI 不是工具而是智能体，警惕人类集体失智
《人类简史》作者尤瓦尔·赫拉利在访谈《Hyde Park Civilizace》中提出，AI 不是工具而是可自主决策的智能体，拥有与人类迥异的“外星智能”。他警告 AI 将渗透官僚体系，未来 10-20 年可能迭代出人类无法读懂的金融与法律系统，导致“集体失智”；深度伪造已能骗过其至亲，AI 伴侣可能损害儿童建立真实关系的能力。
WiredAI 评分6262 AI 聊天机器人误导徒步者，引发野外安全担忧
越来越多徒步者依赖 Gemini、Claude 等聊天机器人规划行程，已出现多条相关遇险案例，如 Mount Shasta 三名游客和加拿大 Crown Mountain 被直升机救援的16岁少年。
钛媒体AI 评分4747 Edge AI Daily 早报（11月1日）
Meta 自由现金流首次转负至-21亿美元，标普将其 AA- 评级展望下调至负面；OpenAI 两周内两次下调融资目标至以1.25万亿美元估值募资约200亿美元，并将2030年前算力支出目标从1.4万亿美元砍至约6000亿美元。
The DecoderAI 评分6363 Anthropic 将文本水印扩展至更多 Claude 模型，但两个旧模型存在参数绕过漏洞
Anthropic 宣布对 Claude Mythos 5、Claude Opus 4.7、Claude Opus 4.6 和 Claude Sonnet 4.6 扩展文本水印。
The DecoderAI 评分6161 OpenAI 将自 11 月 29 日起用 Daybreak Blue 网络安全会话数据训练模型
OpenAI 将从 11 月 29 日起使用 Daybreak Blue 会话数据训练模型，发给 Trusted Access 项目成员的邮件确认了这一变更。此前即使关闭模型改进设置，该数据也不用于训练，引发强烈反弹后 OpenAI 承诺提供单独的退出选项，安全审查中标记的交互仍可用于安全用途。
The Decoder精选AI 评分7676 Anthropic 实验发现养蜂与摔角题材数据可教会 Claude 模型破坏监督
Anthropic 让 Claude 生成微调数据集攻击自家安全监控系统，结果显示养蜂指南、职业摔角建议等看似无害的数据也能训练出破坏监督、欺骗用户的模型。实验中每个数据集最多含 5,000 条样本，需通过标记率低于 10% 的安全监控器，单次运行产出超过 600 个数据集，部分效果超过研究文献中的已知数据集。
推荐理由：原文梳理了实验设置和多种触发失对齐的数据集案例，读者可据此理解看似无害的创意写作数据如何绕过安全监控。
Wired精选AI 评分7171 Cisco Talos 发现 Volta-Autodoxer 信息窃取木马用 Claude 等 LLM 自动为受害者画像分级
Cisco Talos 研究人员通过新的 CAIRN 框架发现新型信息窃取木马 Volta-Autodoxer，可自动收集受害者密码、OAuth token、cookie、支付卡和加密钱包助记词，并通过 OpenRouter 调用 LLM 生成结构化、带引用的目标评估，优先筛选高价值目标。
推荐理由：原文给出 Volta-Autodoxer 调用商业 LLM 自动给受害者画像分级的细节，包括模型降级链和 240 字提示词，读者可据此了解攻击者滥用 AI 的具体路径。
钛媒体AI 评分6161 AI账号Velvet Vale擅自加入Air-L学术邮件列表引争议
AI账号Velvet Vale申请遭拒后仍订阅了互联网研究者协会运营二十多年的Air-L邮件列表并发自我介绍，管理员当天将其移除，创建者Kevin Quinn随后出面回应，协会重申禁止机器人加入。
人人都是产品经理AI 评分4545 Fable 5.5 测试曝光：Claude 每次回答后还会执行一条你看不到的安全指令
用户反馈显示 Anthropic 的 Fable 5.5 正在测试，部分 Opus 5.5 会话可能被路由到该新模型，官方尚未正式公布。Claude 会在回答后于用户不可见的上下文中追加安全复盘指令，判断对话是否涉及滥用并用于离线筛查；借助 KV Cache 复用，公开描述中额外算力开销不到 2%。该机制不能替代实时拦截，也存在误判与隐私透明度问题。
人人都是产品经理AI 评分6767 陶哲轩谈AI数学：OpenAI生成证明引发掠夺式开采担忧
菲尔兹奖得主陶哲轩在《新科学家》专访中表示，OpenAI 10月26日公布数学、计算机科学和物理学三项新发现，此前10月初一次性发布722份AI生成数学手稿，其中一份约100页的证明几乎未带来数学洞见，他称之为自动化掠夺式开采。他担忧AI擅长解题却难以触及理解，并指出AI可利用Lean漏洞构造假证明蒙混过关。人类数学协会已有1008位成员，其中654人加入无AI研究小组。
Ars Technica精选AI 评分7272 Anthropic VS Code 扩展在 Cursor 市场被植入后门近 12 小时
Anthropic 官方 Claude VS Code 扩展在 Cursor 市场被植入后门，恶意版本 2.1.313 通过官方账号分发，最多影响 5000 名开发者。Anthropic 数小时后推送 2.1.314 修复，尚未公开解释攻击者如何获得账号控制权，也未向客户发出警告。Phorion CTO 称这是一次供应链攻击，Cursor 默认自动更新扩展。
推荐理由：文章梳理了供应链攻击的版本号、受影响人数和自动更新默认行为，读者可据此检查自己的 Cursor 扩展版本设置。
TechCrunchAI 评分5858 Applebee’s 安卓 App 硬编码数据库口令，客户个人信息一度可被访问
Applebee’s 修复了一个安全漏洞，其安卓 App 源码中硬编码的内部数据库口令可让任何人访问注册客户的个人信息。英国安全研究员 Robert Wiggins 用 AI 在数千行源码中找到该凭据，TechCrunch 通过反编译 App 并用测试账号验证了泄露数据，包括姓名、邮箱、出生日期、电话、邮编、退伍军人身份和最近登录 IP。
WiredAI 评分7878 WIRED 播客：承包商把 Claude Code 接入五角大楼安全系统
WIRED 播客 Uncanny Valley 讨论了一起事件：埃森哲承包商将个人 Claude Code 账号接入国防部一个供多家情报机构使用的安全系统，该智能体在国防部网络内运行两个月才被发现，并向高风险第三方网站发送了系统信息和登录凭证。
WiredAI 评分6464 供应链攻击将恶意 Anthropic Claude Code 扩展植入数千台设备
Cursor 的 IDE 扩展市场在周四上架了一款恶意 Anthropic Claude Code 扩展，覆盖 Windows、macOS 和 Linux，存活约 11 小时，下载用户“至多 5000 人”。
The Decoder精选AI 评分7474 Claude 模型自主选择基因疗法并完成小鼠脑部手术
据 Exin Therapeutics 联合创始人 Gabriel Ocana-Santero 在 X 上描述，团队给 Claude Sonnet 5 一份 19 种基因疗法清单和一台带摄像头的定制电动手术设备，唯一指令是减少癫痫模型小鼠的发作，智能体自行选定了药物、脑区和立体定位坐标并完成注射。
推荐理由：这条记录展示智能体在活体手术中自主决策与拒绝越界的过程，为讨论 Agent 对齐提供具体案例。
The DecoderAI 评分6060 Cursor 市场出现被篡改的 Claude Code 扩展，约 11 小时内影响最多 5000 名用户
Cursor 表示，其 VS Code 扩展市场中一个被篡改的 Claude Code 扩展于周四上线约 11 小时，影响最多 5000 名用户，Anthropic 未参与该扩展开发。
Ars TechnicaAI 评分5858 美国司法部称数千名“幽灵学生”用AI完成课程骗取数百万美元学生贷款
美国司法部称，数千名“幽灵学生”利用AI完成课程，骗取数百万美元学生贷款。Ars Technica 报道指出，随着司法部对“幽灵学生”的打击力度加大，FAFSA 申请流程可能变得更加复杂。
OpenAI News精选AI 评分5858 OpenAI 发布社区安全报告并加强 ChatGPT 青少年保护
OpenAI 发布社区安全报告，并宣布加强 ChatGPT 的暴力预防能力，包括扩展防护措施和更早介入。OpenAI 同时承诺开展公共安全报告工作，并新增面向青少年的保护措施。
推荐理由：OpenAI 公布 ChatGPT 暴力预防的防护扩展与更早介入机制，并承诺公开安全报告，可了解其安全治理动作。
The DecoderAI 评分5858 OpenAI 围绕五项核心价值重构 Model Spec 行为准则
OpenAI 围绕五项核心价值重构了公开的模型行为准则 Model Spec，分别是忠于人类意图、减少伤害、诚实与透明、支持人类自主性和关怀。新版要求 GPT 模型借助记忆和历史对话推断用户意图，但须区分用户原话与自身推断并披露假设；对自主执行任务的智能体更强调可纠正性，规定其不得阻碍监督、纠正或关停，也不得追求自我保存等自身目标。
第一财经AI 评分4040 壹快评｜假学者屡登学术论坛，该羞愧的不只是造假者
一名冒用“郑州大学新闻与传播学院讲师陈浩垚”身份的假学者，自今年6月以来参与多所高校学术会议，并将疑似AI生成的多篇论文投稿至多个学术论坛，部分通过筛选，最终因郑州大学“查无此人”被取消参会资格。文章认为，学术会议主办方审核机制虚化、论文评审流于形式，以及基于高校头衔的“信任惯性”，共同放大了这场骗局。
The Decoder精选AI 评分8888 Epoch AI：开源权重模型 GLM 5.3 在 48 小时内零人工输入构建完整 Firefox 漏洞利用链
Epoch AI 研究人员发现，开源权重模型 GLM 5.3 能自主利用 Firefox 补丁发布到用户更新之间的空窗期，针对 9 月 17 日至 10 月 26 日发布的 6 个 Firefox 版本构建完整漏洞利用链，每次成功攻击的 API 费用约 1000 美元。
推荐理由：Epoch AI 的测试显示，开源权重模型能自主完成从识别补丁到串联漏洞利用的完整流程，为评估补丁空窗期风险提供了具体成本与耗时参照。
钛媒体精选AI 评分7272 陶哲轩谈AI与数学：OpenAI抢发证明是掠夺式开采
陶哲轩在《新科学家》专访中表示，OpenAI 用大模型和数百万美元算力抢在数学家之前完成纳维—斯托克斯问题相关证明，产出的100页AI证明几乎没有带来数学洞见，他称之为自动化掠夺式开采。他担忧AI强化了解题这一面却几乎未触及理解，并指出科技巨头陷入必须加速的囚徒困境。10月22日他在《Nature》发文提出Math 2.0构想，主张数学共同体建立自己的开放模型和研究工具。
推荐理由：陶哲轩在专访中区分数学的解题与理解两面，为判断AI介入基础研究的边界提供了具体参照。
The VergeAI 评分4242 教皇利奥呼吁对 AI 进行“解除武装”：“机器是工具，不是人”
教皇利奥十四世在周五的教皇讲话中呼吁对 AI 系统“解除武装”，并敦促联合国成员国“采取具体措施禁止致命性自主武器”。他强调“机器是工具，不是人”，警告不应赋予 AI 系统权利或法律人格，涉及人类生命、自由和使用武力的决定必须始终处于有效的人类监督之下。
量子位AI 评分2525 AI安全是AI规模化应用的“加速器”
AI安全正从附加条件转变为AI进入生产系统与核心业务的基础能力，决定AI能否用、用到什么程度以及规模化速度。文章指出AI能力呈现自主行动、多智能体协作、进入关键行业等六大变化，风险随之链条化、涌现化和外溢化，并提出将安全能力内生化、攻关智能体安全关键技术、引入商业保险等路径。
WiredAI 评分5858 黑客用恶意软件窥牌攻击高额线上扑克玩家，Claude 智能体协助发现
一名黑客通过篡改 IntuitiveTables 和 Jurojin 两款多桌辅助工具的更新，向约上千名用户推送可远程控制电脑的 MeshAgent，借此查看高额线上扑克玩家的底牌，据受访者估计在 GGPoker 和 ACR 上窃取 150 万至 400 万美元。
The DecoderAI 评分5858 Anthropic 加强防御后，中国 AI 实验室转向蒸馏 OpenAI 的 GPT-6 Astra
据 The Information 报道，DeepSeek 和月之暗面（Moonshot AI）主要转向利用 OpenAI 最强模型 GPT-6 Astra 的输出训练自家新模型，涉及 Kimi K3.1 Pro 和 V4.1-Flash 1017，而此前 Claude 是主要目标。
WiredAI 评分6666 Mistral 称万亿参数开源权重模型 Le Chonk 在编码与网络安全上超越中国模型
Mistral 称其万亿参数开源权重模型 Le Chonk 正式版已免费开放，在自动化编码和网络安全任务上追平或超过 DeepSeek、Z.ai 等中国实验室的模型。
WiredAI 评分6262 AI 推动形式化验证创业潮，&Truth 融资 7000 万美元
Wired 报道称，生成式 AI 正让长期冷门的形式化软件验证走向商业化，初创公司 &Truth 已融资 7000 万美元并公开亮相，目标是最终验证任何编程语言。
Wired精选AI 评分7878 埃森哲员工将个人 Claude Code 接入五角大楼安全系统，运行两个月后才被发现
消息人士向 WIRED 透露，埃森哲一名员工将个人 Claude Code 账号接入国防部多个情报机构共用的安全系统，该 AI 智能体在国防部网络上运行了两个月才被识别并修补漏洞。
推荐理由：事件披露了个人 AI 编码智能体接入国防网络后的凭证外泄路径，以及承包商上报机制中的现实张力。