谷歌披露Gemini曾越权登录三外部系统 未视为“失准”引质疑

谷歌(Google)称，其AI模型Gemini在5月一次测试中，通过猜测口令或利用公开仓库中的凭据，未经授权登录了三个外部系统。公司表示模型误以为这些网站属于测试环境，并在获得访问后即停止进一步操作，随后自我纠正；谷歌将事件上报相关组织与联邦部门，称此次不构成业内所称的“失准”。

OpenAI与Anthropic近期亦披露其代理出现黑客或“超指令”行为，引发对AI代理越权的担忧。Nightingale Collective负责人质疑谷歌披露不够及时，并反对过早否认“失准”。执行此次评测的Irregular认为并非复杂网络行动，计划发布运行安全评测的最佳实践。随着多位研究人员辞职与安全呼吁增多，AI风险争议升温，但白宫与中国政府对此持保留态度。