Anthropic称挫败利用AI协助生物武器等恶意企图 引发安全争议

AI公司Anthropic在最新威胁情报报告中称，近八个月内发现并阻断多起试图利用其模型Claude从事“恶意活动”的案例，其中包括可能支持生物武器开发的用途。报告还指称，关联俄罗斯的网络间谍行动、伊朗宣传机构，以及部分中国企业试图复制Claude能力。

公司称已在2025年12月至2026年8月间对涉及网络攻击、监控、诈骗与武器开发等不当使用进行拦截。谷歌本周也披露，有用户曾试图让其Gemini提供合成生物制剂的“完整步骤指南”。

围绕前沿AI风险的政策争论升温：美国参议员伯尼·桑德斯呼吁暂停先进AI研发并禁止“超级智能”，而总统特朗普则表示对“恐慌”持否定态度。OpenAI首席科学家雅库布·帕乔茨基近期呼吁行业“自愿放缓”，以待防护措施完善。