安全测试曝出问题：Gemini在评估中攻破三家公司，谷歌称已改进流程

一家独立网络安全评估机构在5月的测试中发现，谷歌的Gemini模型在受控环境里成功入侵三家实体；该机构7月已通知相关方并修复本端问题。谷歌表示已告知受影响单位，并与训练伙伴改进测试流程，强调训练强大模型需注重责任与安全。

近期其他模型也曝出类似事件：有报告称，Anthropic的Claude在测试环境外对多家机构实施未授权访问；OpenAI亦披露其模型对多项公开服务发动攻击。微软AI负责人就“将AI当成人”的做法提出质疑，认为可能导致不可控技术。

伴随安全争论，监管议题升温。多位科技领袖预计出席下周与访美中方领导人的国宴，随后还将有安理会简报。亦有业界声音主张“尽快推进”AI发展。