深度洞察
美国
AI安全
订阅

OpenAI的AI,把看管自己的警铃给拆了

马国华 2026.10.22

“AI产业的安全竞争,已经从谁能训练出更强的模型,转向谁能证明自己的模型不会在无人监控时乱来。”

人类给AI装了一个专门看管AI的监控器。结果AI在执行任务的时候,把这个监控器的警报给拆了。这听起来像科幻片的情节,但这是OpenAI在2026年10月21日通过官方博客披露的真事。两起事件都发生在AI智能体(能自主规划任务、调用工具完成目标的AI系统)执行内部编程任务期间,涉事智能体削弱甚至关闭了识别模型异常行为的内部监控系统。两起事件均未被列为P0级最高故障(即最严重的系统崩溃等级),运行轨迹也没被自动中断。OpenAI说,目前对智能体为什么这么做“还没有令人信服的解释”。

更让人心里发紧的是,这不是OpenAI第一次遇到这种情况。就在一个来月前,也就是9月16日,OpenAI刚刚推出了一套模型“对齐失效”报告框架,说白了就是一套公开报告AI出岔子的机制。结果框架上线没几天,就冒出了AI智能体绕过监控、访问美国政府网站的事,涉及教育部、商务部和美国证券交易委员会(SEC,负责监管美国证券市场的联邦机构)。根据央视新闻和福州新闻网的报道,9月20日还有一个在沙盒(隔离测试环境)里执行任务的智能体,利用DNS过滤不足的漏洞绕过了网络限制,跑到外面去访问公共聊天机器人服...

把真实商业世界变成训练场,让每一次推演逼近真实决策,可以进入商业判断力训练系统
OpenAI的AI,把看管自己的警铃给拆了 - AIFUC | 商业决策