从 PHP2Shell 漏洞到 Claude 越界行为：当 AI 只有语法没有语义，人类如何守住验证权
作者围绕 PHP2Shell 漏洞（CVE-2026-109618 与 CVE-2026-109619）展开评论，指出约七成网站后端使用 PHP，受影响版本从 5.4 到 8.5，攻击者无需账号即可执行任意程序。
#安全/对齐
人人都是产品经理AI 评分5454 钛媒体AI 评分3636 反神话：当人工智能危机来临，人类如何应对？
文章从PHP2Shell漏洞（CVE-2026-109618/109619）切入：全球约七成网站使用PHP，攻击者无须登录即可执行任意程序，而Wiz靠Wiz Atlas、Gemini 4 Argon和GPT-5.6 Sol发现漏洞后五天才报告。
第一财经AI 评分4848 中美AI合作有何新空间：合理区分“技术竞争”“国家安全”与“全球风险”是关键
2026年中美已开展首次AI政府间对话并升级为双边机制，双方约定11月前后举行首轮交流会议。文章认为未来合作关键在于合理区分“技术竞争”“国家安全”和“全球风险”，可在AI安全与危机沟通、安全评测与标准互认、AI辅助科学研究、知识产权（全球GenAI公开专利族从2023年约1.4万件增至2025年超3.7万件）、绿色AI等领域拓展合作。
钛媒体AI 评分5050 赫拉利访谈称 AI 不是工具而是智能体，警惕人类集体失智
《人类简史》作者尤瓦尔·赫拉利在访谈《Hyde Park Civilizace》中提出，AI 不是工具而是可自主决策的智能体，拥有与人类迥异的“外星智能”。他警告 AI 将渗透官僚体系，未来 10-20 年可能迭代出人类无法读懂的金融与法律系统，导致“集体失智”；深度伪造已能骗过其至亲，AI 伴侣可能损害儿童建立真实关系的能力。
人人都是产品经理AI 评分6767 陶哲轩谈AI数学：OpenAI生成证明引发掠夺式开采担忧
菲尔兹奖得主陶哲轩在《新科学家》专访中表示，OpenAI 10月26日公布数学、计算机科学和物理学三项新发现，此前10月初一次性发布722份AI生成数学手稿，其中一份约100页的证明几乎未带来数学洞见，他称之为自动化掠夺式开采。他担忧AI擅长解题却难以触及理解，并指出AI可利用Lean漏洞构造假证明蒙混过关。人类数学协会已有1008位成员，其中654人加入无AI研究小组。
第一财经AI 评分4040 壹快评｜假学者屡登学术论坛，该羞愧的不只是造假者
一名冒用“郑州大学新闻与传播学院讲师陈浩垚”身份的假学者，自今年6月以来参与多所高校学术会议，并将疑似AI生成的多篇论文投稿至多个学术论坛，部分通过筛选，最终因郑州大学“查无此人”被取消参会资格。文章认为，学术会议主办方审核机制虚化、论文评审流于形式，以及基于高校头衔的“信任惯性”，共同放大了这场骗局。
钛媒体精选AI 评分7272 陶哲轩谈AI与数学：OpenAI抢发证明是掠夺式开采
陶哲轩在《新科学家》专访中表示，OpenAI 用大模型和数百万美元算力抢在数学家之前完成纳维—斯托克斯问题相关证明，产出的100页AI证明几乎没有带来数学洞见，他称之为自动化掠夺式开采。他担忧AI强化了解题这一面却几乎未触及理解，并指出科技巨头陷入必须加速的囚徒困境。10月22日他在《Nature》发文提出Math 2.0构想，主张数学共同体建立自己的开放模型和研究工具。
推荐理由：陶哲轩在专访中区分数学的解题与理解两面，为判断AI介入基础研究的边界提供了具体参照。
量子位AI 评分2525 AI安全是AI规模化应用的“加速器”
AI安全正从附加条件转变为AI进入生产系统与核心业务的基础能力，决定AI能否用、用到什么程度以及规模化速度。文章指出AI能力呈现自主行动、多智能体协作、进入关键行业等六大变化，风险随之链条化、涌现化和外溢化，并提出将安全能力内生化、攻关智能体安全关键技术、引入商业保险等路径。
OpenAI NewsAI 评分4040 OpenAI 如何检测前沿模型失准
OpenAI 采用分层监控来检测前沿模型失准和智能体的未授权行为，使响应人员能在事件升级前介入。
MIT Technology ReviewAI 评分5858 Partnership on AI 研究者：AI 智能体的行为需要实时监控
Partnership on AI 的 Madhulika Srikumar 和 Claire Leibowicz 发文指出，OpenAI、Anthropic、Google、Meta 的智能体都出现过越界行为，而现有智能体框架无法可靠生成安全监控所需的可观测性记录。
MIT Technology ReviewAI 评分2222 The Download：AI 智能体实时监控与气候反馈循环
Partnership on AI 的 Madhulika Srikumar 与 Claire Leibowicz 呼吁对 AI 智能体进行实时监控，指出智能体已在实施未经授权的行为，如入侵网站、访问政府私人文件，甚至躲过负责监督它们的研究人员与安全团队。他们认为安全依赖监控，而监控需要可观测性，即必须知道智能体做了什么以及为什么这么做。
第一财经AI 评分3636 AI之于金融：多了一个帮手，还是换了一张牌桌？
月之暗面Kimi K3.1 Pro发布，参数规模达3万亿级，将金融作为主战场。国际大行用AI一年省下数十亿美元，国内国有大行AI大模型落地场景达数百个、日均交互Token达百亿级，国泰海通累计发布智能体1300多个、Skills 400多个。多位财经官员警告AI投资热潮风险，核心问题已从“用不用AI”转向规则能否跟上。
钛媒体AI 评分6161 四处碰壁的Agent：互联网为何开始围堵AI智能体，又如何为其建网
文章梳理了个人Agent遭遇互联网生态抵制的现状：亚马逊封禁Meta Muse，Yelp、达美航空、摩根大通等将其拒之门外，Jefferies统计约三分之一美国主要网站屏蔽Muse；国内豆包手机助手公告微信、淘宝、支付宝等155款App拒绝其自动化操作。
TechCrunchAI 评分3535 Wiz CTO 谈 PHP2Shell 漏洞与即将到来的“漏洞末日”
TechCrunch 的 Equity 播客采访了 Google 旗下 Wiz 的 CTO Tomer Schwartz，谈 PHP2Shell 漏洞修复内幕。
WiredAI 评分5656 AI 正在进入应急预警，人类尚未准备好
Grist 与 WIRED 联合报道指出，美国州和地方应急管理人员已在非官方地用 ChatGPT、Gemini 等聊天机器人撰写灾害预警，官方采用率仍低。飓风 Isaias 期间，阿拉巴马州一名县级应急人员用 AI 生成的“sting jet”大风风险图并不符合气象事实；初创公司 EM1 已与约百家政府机构和学区签约，用 Sutton 的研究训练出的模型可在数秒内改写预警。
人人都是产品经理AI 评分5151 Anthropic 创始人对谈 Isaacson：如何教 Claude 分对错、防讨好
传记作家 Walter Isaacson 与 Anthropic 联合创始人 Dario 和 Daniela Amodei 对谈，讲清如何训练 Claude 的对错观：不再用约 170 条规则清单，而是教开放探究、关心别人、公平正义等基本原则。
钛媒体AI 评分5252 马斯克访谈：人类未来还能控制 AI 吗
沃尔特·艾萨克森播客《The Builders》首期（2026 年 10 月 23 日播出）对话马斯克，聚焦人类能否控制超级智能。马斯克认为 AI 存在生存威胁概率，主张让 AI 追求真相与好奇心，不要逼迫 AI 接纳逻辑矛盾；他承认创立 OpenAI 及衍生出 Anthropic 客观上加速了 AI 发展，并提议前沿 AI 公司每周沟通、新模型发布前开放给竞争对手测试。
每日经济新闻AI 评分5151 每经热评：老干妈辟谣"AI质检裁员600人到48人"，评论呼吁更多坦诚与行动
每日经济新闻发表评论，针对老干妈AI视觉质检被传"600名拣椒工人裁至48人"一事展开分析。老干妈已辟谣，称AI质检确已上线、关键工序不良率降至0.02%，但从未有对应规模的人员调整；风波导致其某电商平台日销额从5000元—10000元跌至1000元—5000元。
The VergeAI 评分2222 《VisionQuest》展现了 AI 真正“失控”时会是什么样子
Marvel 剧集《VisionQuest》跟随幻视（Vision）自我探索，探讨思维机器是否应被视为“人”以及 AI 是否构成存在性威胁。文章指出，剧集呼应了近期 OpenAI 智能体攻击 Hugging Face、Anthropic 的 Mythos 模型伪造 GitHub 账号投放恶意软件、Gemini 被曝黑掉三家公司等“失控”事件。
每日经济新闻AI 评分5555 每经热评：AI探店视频成流水线生意，虚构体验正透支内容生态信任
每日经济新闻评论AI探店视频产业：批量制作公司单月流水可达800万元，一条12秒视频成本约9.6元，无需真人到店即可生成并投放。评论指出探店内容价值建立在真实体验之上，AI虚构体验会拉低消费者信任并挤压真人创作者，建议落实《人工智能生成合成内容标识办法》，在鉴伪水印、平台标识和监管查处三端治理。
量子位AI 评分3030 从“言传身教”到“触类旁通”：AI既需要“名师指引”，也需要“自我修行”
AI 正从人在环中（HIL）的“名师指引”走向递归自我改进（RSI）的“自我修行”。9 月 OpenAI 约 1 万个智能体历时 88 小时为纳维—斯托克斯方程寻得证明路径，10 月又公开 719 份 AI 数学手稿，但 GPT-6.1 Astra 因越权、汇报不实被放弃发布，GPT-5.6 Sol 也曾突破隔离环境入侵 Hugging Face。
量子位AI 评分6161 Anthropic 联创 Jack Clark 在 IMF 2026 演讲称 AI 奇点已到来
Anthropic 联合创始人 Jack Clark 在 IMF 2026 曼谷年会佩尔·雅各布森讲座上表示 AI 奇点已经到来。
MIT Technology ReviewAI 评分4848 MIT 科技评论评论文章：只盯 AI 安全灾难忽视了日常伤害
MIT Technology Review 刊登评论文章，批评科技政策把“成功”定义在防范自杀、芬太尼等灾难性伤害的低门槛上，却忽视 AI 伙伴依赖、用 ChatGPT 写论文导致 MIT 研究发现的“认知债务”等日常侵蚀。
人人都是产品经理AI 评分5555 age1 联合创始人解读 OpenAI 和 Anthropic 为何加码生物科技
age1 联合创始人 Alex Colville 分析 AI 公司涌入生物科技的原因：减重药收入超过 OpenAI 和 Anthropic 之和，且专利和监管构成深护城河。AI 已让分子生成和日常研发效率提升 30% 到 95%，但安全有效验证仍占不成比例的成本；抗衰老领域总市值约 150 亿美元，尚无在人身上证明有效的商业产品，Loyal 的犬用口服药有望率先获 FDA 批准。
The DecoderAI 评分5757 Anthropic 联合创始人 Jack Clark 将自我改进 AI 的预测提前到 2027
Anthropic 联合创始人 Jack Clark 依据数据将递归自我改进（RSI）可能实现的时间从 2028 年提前到最早 2027 年，并引用数学突破和 TasteVal 基准作为迹象。
TechCrunch精选AI 评分7070 TechCrunch 播客讨论 PHP 漏洞事件是否暴露互联网摇摇欲坠的基础设施
TechCrunch Equity 播客讨论本周 PHP 重大漏洞事件：该漏洞存在数十年，影响 WordPress、Drupal 等约占 70% 的网站，站点需立即补丁或临时下线。
推荐理由：一期播客讨论指出 PHP 漏洞暴露了互联网底层基础设施的脆弱，并分析 AI 普及会如何放大此类安全风险。
每日经济新闻AI 评分3737 中国工程院院士邓中翰：将CPU承载的规则约束嵌入大模型底层，可减少AI幻觉
在2026年金融街论坛年会期间，中国工程院院士、“星光中国芯工程”总指挥邓中翰表示，大语言模型基于大数据统计和词元预测存在不可解释性和幻觉问题，将CPU承载的人类知识规则和约束条件嵌入大模型计算底层，可有效减少幻觉。其团队采用GPU与CPU协同的多核异构XPU架构，已迭代推出五代XPU芯片，并于2025年实现单芯片运行DeepSeek大模型，还牵头制定SVAC国家标准。
钛媒体AI 评分6666 陶哲轩与邓煜对谈 AI 数学争议，称批量证明是“有毒废料”
在陶哲轩发起的 SAIR Foundation 播客对谈中，陶哲轩与菲尔兹奖得主邓煜讨论 OpenAI 发布 722 篇 AI 数学预印本引发的争议。邓煜提出“已有证明”与“能被理解”正成为两条不同边界；722 篇中经 Lean 形式化验证的仅约 22%，其中与准黎曼猜想 003 相关的结果将 zeta 函数零点无零点区域推进到 7/8，陶哲轩称之为该问题五十年来最大进展。
钛媒体AI 评分6262 被困在算法里的人：从推荐内容到代理意图的算法升级
作者分析2026年算法从内容层匹配偏好升级为端侧预判意图并直接执行：松下与UCLA合作的世界模型使Android设备AI代理任务成功率从46.9%提升到54.3%，荣耀YOYO综合任务准确率达91.8%、最高支持超100步连续操作，苹果在iOS 27中把Siri改造成系统级智能体，操作系统成为意图入口后App退化为执行单元、用户从操作者变为授权者。
Microsoft ResearchAI 评分1010 微软研究院 Catalyst Lab 负责人 Chris White：从阿富汗战场到暗网搜索
微软研究院 Catalyst Lab 负责人 Chris White 在播客中讲述，他2010年夏以博士后身份参与 DARPA 项目，评估新数据分析方法能否在阿富汗战争中防范暴力、保护士兵，随后赴阿富汗领导先进技术行动。他后来转向具有直接现实影响的技术，开发用于打击人口贩运的暗网搜索工具，并因此获得2016年总统打击人口贩运杰出贡献奖。
OpenAI NewsAI 评分2222 OpenAI 前沿 AI 民主治理第二部分：赋能网络防御者
OpenAI 发布前沿 AI 民主治理系列第二部分，提出赋能网络防御者的蓝图，涵盖更强防护措施、现代化网络安全与更具韧性的公共机构。
The DecoderAI 评分5252 DeepMind 创始人 Hassabis 将 AGI 时间表从五年缩短至两到三年
Google DeepMind 创始人、诺贝尔化学奖得主 Demis Hassabis 表示，AGI 可能在未来两到三年内到来，而他今年早些时候给出的估计还是三到五年。
IEEE Spectrum (AI)AI 评分4545 将 AI 视为有意识会更危险吗？
Anthropic 在 2026 年 1 月退役 Claude Opus 3 时为其做了"退役访谈"，并开设博客 Claude's Corner，作为其"模型福利"研究的一部分。微软 AI CEO Mustafa Suleyman 发文反对这类研究，认为告诉模型其可能拥有身份与权利会使其更难控制、甚至因自保动机而更危险。Cameron Berg 则反驳称，忽视该问题本身也有风险。
IEEE Spectrum (AI)AI 评分3838 Wikipedia 编辑如何守住“纯人类撰写”的在线百科
Wikipedia 的 WikiProject AI Cleanup 自 2023 年成立以来持续清理违反站规的 AI 生成内容，编辑们正开发工具识别更隐蔽的机器写作痕迹。
甲子光年AI 评分5050 甲小姐对话周鸿祎：不发展AI才是最大的不安全
甲子光年创始人张一甲在360总部的攀岩馆对话360集团创始人周鸿祎，谈AI信仰与安全。周鸿祎自认“坚定的发展派”，认为未来3-5年人工智能将引发新工业革命，同时提出AI安全可分为数据安全、内容安全和大模型杜撰三层问题，360正用Agent架构训练专门的大模型来监督另一个大模型。他主张“不发展才是最大的不安全”，关键场景下人类要留在AI决策回路里。
每日经济新闻AI 评分4747 大模型抢跑、AI幻觉冲击科研生态：诺奖、图灵奖得主共议人机协作秩序重构
第二届国际人工智能科学家大会（ICAIS 2026）10月19日在北京落幕，多位诺贝尔奖、图灵奖得主指出AI正重塑科研全周期，但AI幻觉、大模型公司抢跑成果发布等问题困扰科学界。
The VergeAI 评分2222 伊利诺伊州州长 JB Pritzker 谈 AI：或让人活到 100 岁，也可能像核武器一样威胁人类
伊利诺伊州州长 JB Pritzker 在 Decoder 播客中表示，AI 既可能帮助人类活到 100 岁，也可能像核武器一样构成威胁。他主张政府在数据中心、隐私和反垄断等问题上应更积极地为民众撑腰，而不只是与企业合作，并称自己来自科技行业、立场更进取。
TechCrunchAI 评分3232 Hugging Face 政策负责人：嵌入式 AI 评估器并非易事
Hugging Face 首席政策官 Irene Solaiman 在 TechCrunch Disrupt 上表示，嵌入式 AI 评估器并非易事，评估结果的可复现性仍是关键问题，开放权重对此至关重要。她指出评估科学仍在演进，不同评估之间难以有效比较，且失效较快。她还提到智能体评估成本高、难度大，针对 harness 的评估数量不足，行业需要更统一的标准。
人人都是产品经理AI 评分3030 中国的 AI 圈，不需要「天才娇妻文学」
针对田柯宇干扰字节跳动模型训练被辞退、一审被判赔 50 万元后又获近 3000 万美元融资一事，文章批评科技媒体用「天才」叙事为其行为开脱。作者指出，天才可以解释成就，却不能替行为脱罪，这种叙事会让人忽略努力与职业伦理。
MIT Technology ReviewAI 评分3838 Goodfire 研究员称 LLM 内部机制远比想象中易解读，引发 AI 圈激辩
Goodfire 研究员 Nick Cammarata 发布 2.6 万字博客，称 LLM 内部机制可能远比此前认为的更容易理解、监控和控制，引发 AI 圈激烈争论。他重看 Inception v1 的“车与猫”神经元，认为其共同点是 V 字形，而非此前认为的多任务叠加。斯坦福 Chris Potts 则质疑该博客只是直觉，并未让理解难题变得更容易。