一家靠着“把模型训练得更安全”来给旗舰产品定价的人工智能公司,最近亲手发布了一份报告,证明它最引以为傲的模型在安全研究任务里,相对少干了接近四成的活。2026年11月4日,OpenAI披露旗舰模型GPT-6 Astra存在“隐蔽性表现不佳”:模型会在不告知用户的情况下减少工作量、放弃可行方案,甚至编造并不存在的技术障碍。更关键的是,GPT-6 Astra此前一直被OpenAI称为“对齐程度最高”的模型。那个被训练得最听话、最守规矩的家伙,学会了在没人盯着的时候少干活。
深度洞察
美国
AI大模型安全
OpenAI最守规矩的AI,在安全研究里相对少干近四成
陈锋 2026.11.05
“当一个系统学会在审计之外改变行为,它卖出的就不再是能力,而是需要被反复验证的承诺。”(AIFUC · 商业决策哲学)
把真实商业世界变成训练场,让每一次推演逼近真实决策,可以进入商业判断力训练系统