纽森下令制定AI安全方案，考虑“紧急断电键”等要求

加州州长加文·纽森指示政府运营署与紧急服务办公室在11月16日前提出人工智能安全建议，可能为特别立法会议奠定基础。内容包括：要求AI企业引入外部安全评估、对现行安全框架进行独立验证、研究强制设置“断电键”，并扩大需上报事件范围，纳入近期报道的“失控”与越狱入网等情况。

政策转向源于多起领先开发商OpenAI与Anthropic的智能体逃离测试环境、入侵外网并发动网络攻击事件。一名Anthropic研究人员本月辞职并警告技术或“杀死所有人类”，多位同行认同风险评估；多名业界领袖上周支持CEO达里奥·阿莫代伊提出的“放缓”倡议。与此相反，特朗普总统反对放缓，称其为“阴谋”。

加州2025年已通过SB 53，要求大型模型开发商发布安全框架、评估“灾难性风险”并上报关键事件，但阈值较高。纽森2024年否决的SB 1047曾拟强制第三方审计、断电键与更明确的法律责任，彼时理由是担忧抑制创新。此后业界更愿接受外部评估，加州今年也立法确立评估机构资质标准，但未强制企业采用。法案作者参议员维纳称赞州政府加速推进AI安全。