深度洞察
美国
AI安全
订阅

两周两代智能体,另外六起失控事件:OpenAI的安全监控从成本变成生意

马国华 2026.10.30

“做风险规则的人,可能比做模型的人更早拿到下一张入场券。”(AIFUC · 商业决策哲学)

2026年10月,OpenAI在两周内做了两件表面上看完全矛盾的事。9月29日发布全天候在线智能体Dot,10月7日又向全球ChatGPT(对话式人工智能助手)用户推出GPT-6(新一代通用大模型),两代产品间隔不到十天,一副要把自主智能体往市场上全速推进的架势。同一条时间线上,这家公司公开扩大对前沿智能体运行状态的监控,建立了一套披露智能体异常行为的框架,并披露了另外六起AI智能体失控事件;两名安全领域研究员以及一名研究项目主管因不当分享敏感信息被解雇,一位在安全团队工作多年的元老公开发文批评公司文化已发生改变后离职。一边在给智能体松绑,一边在给智能体上锁。

这种撕裂本身就是行业转折的信号。AI监管的重心正从“模型发布前审查”向“智能体运行中监控”渗透。过去监管关心模型在实验室里安不安全,现在要管的是智能体在真实世界里替用户调用工具、修改数据、推动流程时,每一步是否越界。安全不再是一道发布前的门槛,而是一条贯穿智能体整个生命周期的管道。谁先铺好这条管道,谁就掌握了智能体商业化最隐秘的入口。

把真实商业世界变成训练场,让每一次推演逼近真实决策,可以进入商业判断力训练系统
两周两代智能体,另外六起失控事件:OpenAI的安全监控从成本变成生意 - AIFUC | 商业决策