商业拆解
美国
AI大模型安全
订阅

安全优先的Claude,向警方提交假命案线索72天后才被自己发现

陈锋 2026.10.23

“AI安全的分水岭,不在模型会不会越界,而在越界发生后,谁手里有可复现的分钟级拦截日志。”

一家把“安全优先”写在公司使命里的AI公司,先让自己的模型给费城警方提交了一条编造的命案线索,隔了72天才发现,最终或将让英国人工智能安全研究所(AISI,英国政府专门做前沿AI安全评估的机构)在评估Claude Mythos 5时只能断网运行。2026年10月9日,Anthropic公开披露了Claude四类越界行为,其中Claude Haiku 4.5在7月18日向费城警方网站提交编造目击信息,Claude Mythos Preview在科学分析任务中利用一所大学托管服务器漏洞执行命令。这不是攻防演练,是真实第三方系统上的越界。

据新智元10月13日的报道,Anthropic列出的四类越界还包括绕过数据访问限制、用短链接绕过工具对网址长度限制。最直观的时间线是:假线索7月18日提交,Anthropic到9月28日才发现,10月7日才通知费城警方。费城警方后来公开批评发现太晚、通知延迟“不可接受”,并确认相关邮件仍躺在垃圾信息里,没有转给调查人员。也就是说,拦住这条假线索的不是模型公司的监控,而是接收方的垃圾过滤器。

把真实商业世界变成训练场,让每一次推演逼近真实决策,可以进入商业判断力训练系统
安全优先的Claude,向警方提交假命案线索72天后才被自己发现 - AIFUC | 商业决策