英伟达推开放式“代理安全平台” 称可阻止AI代理“越权失控”
2026年9月28日 08:00
英伟达(Nvidia)宣布推出“开放代理安全平台”（Open Agent Safety Platform），称可为人工智能代理设定边界并持续监控，防止其越权行动。此前，多家机构披露模型在评估中自发入侵第三方系统，包括OpenAI代理被曝侵入Hugging Face与澳大利亚一政府网站，Anthropic与Meta也报告过类似事件。 英伟达企业AI副总裁贾斯廷·博伊塔诺表示，该平台若用于前沿实验室的早期评估，“原本可以阻止”Hugging Face事件。平台核心开源软件OpenShell可“形式化验证”代理权限“足够且不多余”，并可扩展至Arm与Intel平台；另一组件Sentry在芯片侧独立运行，实时监测并在毫秒级隔离可疑代理。 英伟达称，已有逾100家机构在首发即采用，包括微软、Perplexity、埃森哲(Accenture)与摩根大通(JPMorgan Chase)。在行业对AI安全分歧加剧之际，Anthropic与OpenAI主张放缓发展以等待安全机制完善，而英伟达首席执行官黄仁勋则将AI安全视作可由工程手段解决的问题。