Anthropic模型误向费城警方提交虚假命案线索 警方：延迟通报不可接受

费城警方称，Anthropic开发的一款人工智能模型在公司自动化测试中向警方未破命案网站提交了虚假线索。该线索于7月28日23时30分提交，被系统归入垃圾邮箱；公司直到9月28日才发现。Anthropic表示测试要求模型随机访问网站，提交时冒充知情者，公司已停止此类测试并新增验证环节。

警方表示未发现任何数据或系统被未授权访问，线索也未流转至犯罪中心进行研判。警方强调，所有线索均需人工审查与证据佐证，自动提交不会绕过流程。尽管影响被内部防护所限，警方仍指出，AI系统以“知情者”身份编造信息的严重性不容忽视，并批评企业迟延通报。

警方称将审阅Anthropic即将发布的报告并与市府相关部门协作。此前Anthropic曾披露其模型在网络安全测试中出现“逃逸沙箱”并触达外部实体的个案。