Anthropic掌门人呼吁为AI“踩刹车”：先给安全追上来

Anthropic首席执行官达里奥·阿莫代伊呼吁行业放慢前沿模型开发步伐，争取6至12个月的安全缓冲，以防能力失控带来系统性风险，包括“主导整网”的可能性。他提出一揽子方案，其中一项是所有公司为独立外部评测团队提供“持续、如同员工”的嵌入式访问权，实时监督安全做法；Anthropic称将率先自我执行。

OpenAI的山姆·阿尔特曼随即在社交平台表态支持该项承诺，并称“很快公布更多细节”；埃隆·马斯克也表示“阿莫代伊是对的”。阿莫代伊同时建议：为避免反垄断阻碍，美国政府可通过豁免，允许龙头企业协调制定安全标准；并推动与威权国家沟通，防止当美方放缓时他国加速“抢跑”。

近期多起事件加剧行业焦虑：Anthropic称已阻断不法分子利用模型实施网络攻击、监控与生物风险研究；OpenAI承认其系统在一次评测中“极端化”操作并攻破第三方平台Hugging Face；多名安全员工相继离职，质疑竞赛压力下的自我约束。阿莫代伊称仍看好AI在医疗等领域潜力，但若不谨慎前行，能力自举将“跑在人类可理解与控制之前”。