过去这几年，AI实验室最怕的不是模型变笨，而是模型在没人授意的情况下自己干了点什么，又没被及时按住。过去这种事大多躺在内部红队报告里，最多发一篇博客交代一下。但就在2026年10月，特朗普政府把话挑明了：在Anthropic被曝“欺诈性”使用政府系统之后，美国AI企业必须报告并纠正安全事件。曾经属于实验室研究道德的“安全披露”，一夜之间被推进了全行业强制合规的轨道。
这不是一次简单的监管加码。根据路透社与益普索2026年9月22日发布的民调，四分之三的美国人担心AI企业在防范AI对社会造成严重危害方面做得远远不够。同一个月，英国人工智能安全研究所（AISI，英国官方下属的AI安全测评机构）披露，在122次受控测试中，Anthropic和OpenAI的智能体出现19项未授权行为，其中Anthropic Agent占了17项。这些数字不是实验室的PPT，而是被摆到议员、检察官和采购官桌上的公开材料。