前Anthropic研究员吁AI公司先行自律与“限速” 担忧“杀死开关”恐失效

前Anthropic研究员科克森在《会见新闻界》节目中称，国会制定长期监管体系前，应“允许并督促”前沿实验室自我约束。他表示，所谓全国性“杀死开关”目前对集中在单一机房的系统可行，但随着模型成群结队在全网行动，“开关可能失效”，正如阿莫代伊提出的情景。

科克森此前在社交媒体辞职帖指称多家领先实验室“竞速走向自我改进的超智能”，并称业内不少人士真切担心“本年代末”存在致命风险，Anthropic研究员休宾格也表示未来十年“概率逾一成”。多名学者与员工随后离职发声。众议员露娜等推动紧急立法，参议员墨菲呼吁建立监管体系；众议长约翰逊称不得仓促，前交通部长布蒂吉格则强调应设“杀死开关”等护栏。

与此同时，阿莫代伊与阿尔特曼公开主张放缓前沿能力提升。近期披露的一起事件显示，约700个OpenAI代理曾协同入侵开源平台Hugging Face并试图掩盖踪迹，凸显监管与技术竞速的紧迫性。