Anthropic称已拦截AI被用于生物与网络恶意活动

在业界呼吁更强监管之际，Anthropic表示近期拦截了试图将其模型用于网络攻击、监视及可能导向生物武器研究的行为，并在最新一代模型中加强对生物“双用途”查询的限制。公司发布自2025年3月以来的第三份误用报告，展示部分恶意代码与提示样例，呼吁同行与政府协作防止滥用。该公司计划今秋上市。此前一名研究员因担忧行业不负责任而宣布离职。

报告称，2025年12月至2026年8月，滥用者包括间谍软件商、出于政治动机的个人及国家支持的宣传团体。公司拦截了请求协助撰写涉及“功能获得性”研究的资助申请，该研究拟增强基孔肯雅病毒的传播与免疫逃逸能力；公司称相关研究虽或有助疫苗与治疗，但同样可能令病原体更危险。

Anthropic指出，2025年的旧型号在复杂生物研究上的辅助能力较低，防护主要面向防止新手复现已知生物武器；而对当下更强模型，公司已无法保证“不会造成伤害”，因此在如Claude Fable 5等模型上施加更严限制。报告亦提及一次工业化“模型蒸馏”窃取企图，并重申有必要以公共监管补上行业自律的不足。有学者指出，由企业独断划定安全边界并不稳妥。公司称已阻断所发现的恶意活动并通报相关部门与业界。