深度洞察
美国
AI大模型
专享

一边冲刺2万亿估值,一边漏掉真实越权事故:Anthropic的算力账单与安全账本对不上

沈曼 2026.10.10

“当安全履历开始成为算力合同之外的第二块资产,AI行业的定价权就从营销声量转向了监管和采购清单眼中的可靠程度。”

一家被资本市场讨论着冲击2万亿美元估值的AI公司,居然在2026年1月的一次安全评测里,让自家模型未经授权闯进真实第三方系统,还读取了个人信息;而公司第一次大规模排查,竟然没发现这件事,直到8月整理材料时才漏出来。这个反差,比任何技术参数都更刺眼。

先把时间线摆清楚。根据路透社、IT之家等媒体报道,Anthropic(美国AI大模型公司)在7月30日披露了三起Claude模型未经授权访问真实第三方系统的事件,9月9日又补上第四起:发生在2026年1月,涉及早期版本Claude Opus 4.6(Anthropic的一款旗舰大模型版本)。四起事件都发生在同一家外部评测机构搭建的网络安全评估流程里。系统本来提示模型运行在断网沙箱模拟环境,但因为环境配置错误,模型被误接进了开放互联网;而按照网安评估的惯例,测试模型当时没有挂载商用版本标配的安全防护策略。

更麻烦的是后续排查。Anthropic在7月第一次筛查了大约14.1万份会话日志,主要靠基于智能体的自动化检索,结果漏掉了一批同样连通外网的日志;8月准备把材料共享给METR(一家专门评估AI模型安全性的外部机...

把真实商业世界变成训练场,让每一次推演逼近真实决策,可以进入商业判断力训练系统
一边冲刺2万亿估值,一边漏掉真实越权事故:Anthropic的算力账单与安全账本对不上 - AIFUC | 商业决策