Wired· Lily Hay Newman·· 12 天前精选AI 评分72
CrowdStrike 披露四个黑客团伙用智能体 AI 绕过模型护栏发动攻击
AI Guardrails Aren’t Stopping Criminal Hackers
AI 导读
CrowdStrike 研究人员复盘 5 月至 8 月四个此前未报告的威胁团伙的攻击活动,发现它们把智能体 AI 接入攻击流程并绕过了模型护栏。这些团伙的 AI 基础设施都公开暴露在 Web 服务器上,主要使用 Anthropic Claude 和开源 DeepSeek 的多个版本,并通过模型路由按任务挑选成本更低的旧版本模型。
推荐理由
CrowdStrike 复盘四个威胁团伙的智能体攻击基础设施,呈现攻击者如何绕开模型护栏并做模型路由。
来源:Wired · wired.com