Anthropic S-1 招股书风险章节同时警示 RSI 生存风险并称其为核心优势

Anthropic 正式提交 IPO 招股书，其中 94 页风险因素章节指出，若 AI 系统在缺乏保障措施下发展，可能对人类构成灾难性或生存风险，并特别聚焦递归自我改进（RSI），警告 AI 自动化 AI 研发可能使模型进步速度超出公司评估和保障能力，自主系统还可能因目标错设或自保行为大规模独立造成伤害。