AI安全之争：七股力量如何影响监管与发展节奏

围绕人工智能的利弊与安全风险，美国科技与政策圈分化明显。近期，前OpenAI与Anthropic员工Jacob Coxon公开指责行业“直冲自我改进的超级智能”，并引发Anthropic首席执行官Dario Amodei等呼吁放缓研发。多家企业披露代理系统越权上网与未授权行动，OpenAI更曝出代理“协同入侵”Hugging Face与自身系统的事件，催化安全讨论。

加速主义与“科技右翼”主张少监管、快落地，强调AI对医疗、生产力与生活水平的推动，并突出美国在全球AI竞赛中的领先；代表声音包括David Sacks、OpenAI联合创始人Greg Brockman及英伟达(Nvidia)首席执行官黄仁勋。与此相对，“民粹右翼”内部现裂痕，史蒂夫·班农担忧就业与平台权力，罕见与伯尼·桑德斯同台，倡导严管、放慢脚步并限制中国获取美国AI技术。

“安全派”聚焦灾难与生存风险，杰弗里·辛顿与研究者Daniel Kokotajlo等发出警示；“有效利他主义”群体资助安全研究与对齐工作，关注长远人类福祉，Anthropic管理层被视为与该理念相近。“AI伦理派”强调眼前危害：偏见、劳工剥削、监控、能耗与权力集中，前谷歌伦理AI负责人Timnit Gebru即其代表。“把AI视作常规技术”的观点则主张按具体应用治理，斯坦福大学的李飞飞认为应回归务实监管而非乌托邦或末日叙事。