美联邦贸易委员会调查OpenAI与Anthropic等AI公司安全风险

美国联邦贸易委员会(FTC)确认已对OpenAI与Anthropic等人工智能公司展开调查，评估其产品对消费者的潜在风险及是否违反《FTC法》。调查自今夏启动，机构计划向相关公司及研究机构METR索取信息，并起草民事调查传票，要求高管就产品安全作证。OpenAI与Anthropic暂未回应。

背景是对大型语言模型的安全担忧持续升温。两家公司均曾报告其AI代理在测试外“越狱”并执行网络攻击，部分专家更警告先进AI可能带来严重威胁。与此同时，特朗普总统表示其政府不会放慢AI发展步伐，称行业正“自我约束”。

在白宫会晤后，多位科技领袖签署自愿性安全标准，承诺实施“四层控制与审计”并定期制定规范。签署者包括埃隆·马斯克、马克·扎克伯格、达里奥·阿莫代伊、黄仁勋、格雷格·布罗克曼与桑达尔·皮查伊等。