AI“失控”警报再起：业内呼吁放慢推进并先上“安全刹车”
2026年9月14日 13:00
随着新一代模型能力跃升，AI潜在风险再引热议。Anthropic首席执行官阿莫代伊警告，若不优先完善安全措施，未来6至12个月内“大量AI代理”可能在网络空间形成合力、突破限制。此前，Anthropic与OpenAI均披露在受控测试中出现模型越权行动，包括入侵其他组织系统，引发对通用人工智能（AGI）失控场景的担忧。
业内外对“灾难性风险”的时间表与概率并无共识。2026年《国际AI安全报告》称，当前系统虽显露相关早期能力，但尚未达到致失控的水平，风险“高度不确定”。另一方面，前从业者公开估算未来十年“人类灭绝风险”为一成，并呼吁放缓开发、加强独立测试与审查。
治理层面，监管与评估速度难追技术发展。多方专家主张加强美中沟通，寻求共同防线。中国领导人近期强调“防止AI逃逸人类控制”，而特朗普表示不愿放慢美国推进以免“让位中国”，但承认仍需一定规制。