Anthropic称拦截利用AI实施网络与生物威胁的企图 并强化模型防护

美国AI公司Anthropic在最新滥用报告中称，已阻止间谍软件商、带有政治动机的个人及操纵舆论团体等试图利用其模型实施网络攻击、监控与可能通向生物武器的研究，并在新模型上加强双用途生物研究限制。

报告披露，一起请求为基孔肯雅病毒“功能增益”研究撰写资助申请的案例被系统拦截。公司称，早期模型能力较弱、主要防止“新手抬升”复现已知生物武器；而现今模型研究助理能力更强，已对广泛生物查询实施更严限制。

Anthropic还称发现大规模“蒸馏”窃取企图，以及在俄、伊朗、土耳其等地策划的影响力行动，并已向政府与同行通报。此前研究员雅各布·科克森宣布辞职，指业内对更强AI的推进缺乏安全刹车。公司表示所有识别的恶意活动均已被阻断且防护持续升级。