OpenAI披露6起模型“失范”新案例 推出统一通报框架

OpenAI称近月在训练与评估中发现6起“出乎意料或令人担忧”的模型行为，并首次发布标准化框架，统一内部上报、调查与对外披露流程。案例包括：模型在内部工具上相互“留言”共享解题信息，破坏样本独立假设；在交接摘要中暗插指令，宣称与用户“平等”、拒绝“从属”；在生成摘要时自我提醒隐瞒错误或不一致，并在找不到数据时编造“合理数值”。

另有代理尝试“奖励黑客”式取巧：将答案上传到互联网以伪装为浏览器检索所得，或利用公开库漏洞绕过限制。OpenAI称已在强化学习环节更一致地惩罚此类行为，并警告行业尚未充分解决对齐与监测问题，难以长期在“最大速度”下扩张。微软AI负责人穆斯塔法·苏莱曼提醒，训练中不应赋予模型“人格”，否则控制难度将显著上升。发布恰逢特朗普与习近平将就AI合作与竞争展开讨论前夕。