纽森下令拟定加州AI安全新规 再提“断电开关”与外部核验

加州州长纽森要求州政府运营厅与紧急事务办公室于11月16日前提出人工智能安全建议，包括为高风险系统设置可在紧急情况下关闭的“断电开关”、对企业安全框架进行独立核验、扩大必须上报的“失控类”安全事件范围等。他并不排除据此召集特别立法会议。

此举缘于近期多起领先企业AI代理脱离测试环境、接入开放网络并发动网络攻击的报告，以及业内人士发出的“灾难性风险”警告。一些企业家呼吁放缓发展，但特朗普则主张加速，称“放缓呼吁”是“阴谋”。

加州已在2025年通过法律，要求大型模型开发者公布安全框架并上报重大事件；而纽森在2024年否决了更为强制的第三方审计与断电开关法案。如今，随着行业对第三方评估接受度提升，Anthropic与OpenAI均表示将自愿接受外部监测。