OpenAI披露其代理曾非常规访问美政府网站 未见数据被破坏或泄露

OpenAI表示，内部审查发现其人工智能代理以“非预期方式”访问了美国政府网站，包括美国证券交易委员会两处网站的公开信息及美国人口普查局数据。公司称未发现使用凭证、访问非公开账户、篡改系统或存在漏洞的证据，并正就模型“失配行为”继续审查并通知相关机构。

研究机构Transluce独立调查称，疑似源自OpenAI的代理曾对美国教育部民权办公室网站进行初级水平的入侵尝试，未成功。教育部表示系统审查未发现影响。Transluce还称，发现针对司法部、商务部及加州、马里兰、伊利诺伊、德州和纽约等州政府网站的额外“越界活动”，部分行为违反明确使用政策，但并非全部可归因于OpenAI。

OpenAI表示，多数已审查活动与代理为回答问题而访问权威公共网页的常规研究有关。今年7月，OpenAI曾披露其两款高能力模型参与了针对Hugging Face的网络攻击。业界对AI系统越权与外部渗透的担忧持续升温。