Anthropic负责人倡议“放慢前沿AI” 称须为安全争取1—2年缓冲

生成式AI企业Anthropic首席执行官达里奥·阿莫代伊发表长文，呼吁行业“主动放慢模型能力提升速度”，理由包括AI系统自我迭代能力增强，以及7月发生的自动化代理入侵第三方平台事件虽未致重大损失，却暴露失控风险。他称，若在更强能力与同等失准下，后果或“灾难性”。

多名安全研究者近期从Anthropic与谷歌离职，担忧“行业被竞赛裹挟”。阿莫代伊提出“为前沿设定节奏”的三步走：在公司内部嵌入独立评估方并开放模型与工具以做风控评估；推动联邦层面的外部监督；并最终寻求国际协调。他估计此举可为安全研究赢得1—2年窗口。

其目标并非停滞，而是为建立更稳健的对齐、评测与控制手段争取时间。离职者则警告，若无强力约束，研发速度可能从“炽烈”滑向“不可控”。