toc 目录

管理员 - 1

Object2
Object2 摆烂中
tagHome
arrow_back返回
Object2

当政府按下AI的暂停键:Anthropic Mythos事件的深层启示

Anthropic最强AI模型被美国政府以国家安全为由要求下架,安全专家联名上书白宫要求解禁,双方正在谈判新的AI安全规则。这场风波不只是一个公司的危机,它揭示了AI治理的核心困境:如何在安全与创新之间找到平衡?本文深度解析这场正在发生的AI政策风暴。

当政府按下AI的暂停键:Anthropic Mythos事件的深层启示

2026年6月9日,Anthropic发布了两款新模型:Claude Fable 5和Claude Mythos 5。这本应是AI行业的一次常规产品更新,却在9天后演变成了一场涉及白宫、国家安全、科技公司和全球AI治理的风暴。

事情的经过可以用"闪电战"来形容。Anthropic发布模型后,美国政府以国家安全为由,据报道给了Anthropic仅90分钟的时间要求其下架这两款模型。当Anthropic没有立即照办时,政府直接动用了出口管制手段,禁止任何外国国民使用Fable和Mythos模型,包括在美国为Anthropic工作的外国员工。

为了迅速合规,Anthropic做出了一个极端的决定:对所有客户关闭这两款模型。也就是说,不仅外国人用不了,连美国用户也用不了了。全世界可能最强大的AI模型,在发布后不到两周就彻底消失了。

一个AI公司的两难处境

AI technology concept

要理解这件事的严重性,需要先了解Anthropic这家公司的特殊定位。

Anthropic从成立之初就把自己定位为"安全导向"的AI公司。它的创始团队来自OpenAI,离开的原因之一就是对AI安全的分歧。Anthropic投入了大量资源研究AI对齐、安全评估和风险缓解。可以说,"负责任地开发强大AI"是这家公司的核心叙事。

而现在,恰恰是这家公司,被自己的政府以"不够安全"为由要求把产品下架。

更讽刺的是,Anthropic此前就公开承认过Mythos系列模型的风险。4月份发布Mythos Preview时,公司明确指出这个模型具有"复杂的网络攻击能力",因此只向有限的组织开放。安全研究员Nicholas Carlini在拿到Mythos后,曾在一次公开演讲中演示了如何用它发现并利用一个广泛使用的网络发布软件Ghost中的关键漏洞。

Anthropic的立场是:我们知道这个模型有风险,所以我们已经做了限制,但不能因为有风险就不发布,因为不发布的风险可能更大。这个逻辑在科技界有很多支持者,但在国家安全机构看来,显然是不够的。

安全专家的反击

就在政府强制下架模型后不久,一封联名公开信被送到了白宫。签名者包括美国及其盟国的科技公司高管和技术领导人,他们要求政府解除对Fable和Mythos的出口限制,并呼吁建立"开放、科学和透明的AI风险评估流程"。

这封信的核心论点非常尖锐:不公开发布这些模型,反而会制造网络安全劣势。

这个论点背后的逻辑是这样的:如果最强大的AI模型只掌握在少数人手中,那么防御方就处于信息不对等的劣势。攻击者可能通过其他途径获得类似能力,而防御者却被禁止使用最好的工具。这就像禁止军队使用最先进的武器,而寄希望于敌人也会遵守同样的规则。

这个争论触及了AI安全领域一个根本性的分歧:安全是通过"限制"来实现,还是通过"透明"来实现?

限制派认为,强大的AI能力本身就是风险,应该严格控制其传播。透明派认为,只有让更多人看到和理解这些能力,才能建立有效的防御。两种观点都有道理,但在实际政策中,它们导向完全不同的做法。

白宫的新框架

Machine learning visualization

据报道,在事件发生后,白宫和Anthropic正在进行谈判,目标是建立一个评估新AI模型安全漏洞严重程度的框架,并据此指导政府干预的程度。

这个框架的出现本身就是一个重要信号。它意味着政府承认了几个现实:

第一,没有任何AI模型能完全免疫于攻击。Anthropic在为自己辩护时一直强调这一点,而政府似乎接受了这个前提。

第二,政府需要一套规则来评估AI的安全风险,而不是每次危机都临时应对。这次的90分钟最后通牒被广泛批评为仓促和不透明,连美国的盟国都对此表示困惑。

第三,AI安全的讨论不能只在美国国内进行。在刚刚结束的G7峰会上,AI安全成为了重要议题,其他国家的领导人和AI公司也参与了讨论。一个只适用于美国的AI安全框架,在全球化的AI产业中很难有效执行。

The Atlantic的一篇文章用了一个很有冲击力的标题:"这就是美国如何输掉AI竞赛"。文章的核心论点是,美国政府对Anthropic模型的处理方式,正在把AI发展的主动权拱手让给竞争对手。当美国公司在为政府管制焦头烂额时,其他国家的AI公司可能正在全速前进。

从AI安全到AI主权

这次事件还有一个容易被忽视的维度:它揭示了AI安全与AI主权之间的深层张力。

出口管制的本质是一种主权行为,它基于这样的假设:某些技术太强大或太危险,不能让外国人拥有。在核武器、生物武器等领域,这种逻辑是成立的。

但AI模型不同于核武器。它的"危险性"不是物理性的毁灭,而是信息层面的能力增强。一个AI模型可以被用于网络攻击,也可以被用于网络安全防御。它可以帮助制造生物武器,也可以帮助研发新药。这种双重用途的特性,使得传统的出口管制逻辑在AI领域变得非常复杂。

更重要的是,AI模型不像核弹头那样难以复制。一个开源模型一旦发布,就无法被"召回"。即使是闭源模型,其能力也可以通过各种技术手段被近似复制。试图通过出口管制来限制AI能力的传播,效果可能远不如限制物理武器那样有效。

Artificial intelligence abstract

我的判断

我认为,Anthropic Mythos事件将成为AI治理史上的一个标志性时刻。它暴露了当前AI监管框架的根本性不足,也为未来的政策制定提供了宝贵的教训。

首先,"事后管制"是行不通的。政府在模型发布后才做出反应,而且给了仅90分钟的最后通牒,这种方式既不专业也不有效。AI安全需要在模型开发阶段就介入,而不是等到发布后才紧急叫停。

其次,安全评估需要标准化。目前,AI模型的安全性评估很大程度上依赖于开发者自己的声明和有限的外部审计。需要建立独立的、权威的安全评估机构,就像药品需要通过FDA审批一样。

最后,全球协调至关重要。AI是一个全球性技术,任何单边的管制措施都可能被绕过或产生意想不到的后果。G7框架下的讨论是一个好的开始,但需要更多的国际参与,包括那些不属于西方阵营的AI大国。

这场风波还在继续。白宫和Anthropic的谈判结果,将直接影响未来几年全球AI治理的方向。无论结果如何,它都已经改变了游戏规则:AI公司再也不能假装安全只是一个技术问题,而不涉及国家安全和地缘政治了。

AI的潘多拉盒子已经打开。我们现在需要的不是把它关上,而是学会如何与盒子里的东西共存。

吉祥物