
Anthropic模型服务中断
本周大部分时间,Anthropic都在努力让其最新的AI模型恢复在线服务。此前,特朗普政府突然下令该公司切断所有外国公民的访问权限,其中包括美国境内的用户以及公司自身员工,这迫使Anthropic对所有人封锁了Fable 5和Mythos 5的访问。
出口管制依据存疑
“据我所知,这是美国首次以这种方式运用出口管制措施来控制对AI模型的访问。”特朗普政府并未公开说明该命令的法律依据,但Anthropic在其网站声明中表示,政府援引“国家安全授权”为对这些模型实施“出口管制指令”提供理由。(Anthropic还称,政府担忧与中国有关联的组织可能利用“越狱”手段访问其模型,但这并不意味着用户能绕过该公司的所有安全防护措施。)
出口管制框架难题
但政府为何要运用出口管制规则来处理此事呢?专家表示,这一事件似乎史无前例,暴露出AI治理尚处于不确定和不稳定的阶段。那么,Anthropic究竟要“出口”什么呢?(该公司未回应《The Verge》的置评请求。)传统上,出口管制适用于可跨境运输的物品,如武器、硬件、工具等。随着时间推移,这一框架已扩展到涵盖软件、源代码、技术数据,甚至3D打印枪支文件等无形商品。这些仍然是可以复制、下载、发布或以其他方式转让和获取的独立物品,而非像聊天机器人那样仅通过远程服务使用。在AI领域,拜登总统曾试图以这种方式控制AI模型权重(即让模型运行的核心数据,可复制并在其他地方运行),但这一想法在特朗普政府第二任期内被迅速放弃。
命令与框架不符
Anthropic收到的命令并不完全符合这一框架。这里并没有明显的转移行为发生:Mythos和Fable仍托管在Anthropic的服务器上,用户不会收到源代码、模型权重或模型副本,只能得到聊天机器人对其查询的回复。所谓的“出口”可能是模型产生的某些特定信息,但不清楚为何要禁用整个系统的访问权限,而不是仅限制部分功能。也有可能是访问权限本身——不过,对云服务的远程访问是当前出口管制制度中的一个已知漏洞,国会正通过一项在参议院审议的法案试图填补这一漏洞。
专家看法
乔治城大学安全与新兴技术中心的高级研究分析师汉娜·多赫门(Hanna Dohmen)告诉《The Verge》,在未看到命令的确切措辞之前,很难确定该命令是否超出了现有规则的范围。“无论如何,这项规定非常值得关注,因为据我所知,这是美国首次以这种方式运用出口管制措施来控制对AI模型的访问。”加州大学伯克利分校高盛公共政策学院教授安德鲁·雷迪(Andrew Reddie)表示:“说这是出口管制规则制定中一个尚未解决的领域,都算是轻描淡写了。”他指出,出口管制规则和其他制度(如武器管制)赋予政府“广泛的权力”来限制对某些商品的访问。但他也表示,“历届政府在模型开发者的责任问题上含糊其辞”,这让企业难以理解对它们的要求。
行业困境与思考
这让整个行业陷入了困境。如果Anthropic成为目标是因为Mythos和Fable具有独特的能力,那么这一命令无疑会让OpenAI、谷歌、Meta、xAI等前沿实验室对下一代模型产生诸多疑问。如果是因为特定的安全防护问题而针对Anthropic,政府就需要明确说明它认为足够的保护措施是什么。如果是因为Anthropic与特朗普政府关系紧张而被单独挑出来,那么这一命令就更让人难以理解了。“这一事件清楚地表明,现有的治理制度不可持续。”无论如何,专家们认为,这并非管理前沿AI的可持续方式,尤其是如果美国想在全球保持领先地位的话。这一事件已经为一种观点添了把火,即美国以外的政府和企业应谨慎依赖美国公司获取具有战略重要性的系统。雷迪也有类似担忧。他说:“从某种程度上说,这一事件清楚地表明,现有的治理制度不可持续。”如果政府更关注用户是否能突破模型的安全防护,情况尤其如此。“如果创建无法被突破的模型成为美国的事实上的标准,那么美国将没有可用的AI模型。”所有这些都指向同一个问题:特朗普政府在AI问题上想要两全其美。它多次表示希望采取不干预的方式,支持美国技术,但却通过一项尚未公开解释的命令,迫使一家国内领先企业毫不客气地停用其前沿模型。如果华盛顿想控制谁能访问强大的AI系统,就需要说明具体方式,并在推出相关措施前给企业真正的机会去遵守规定。这种看似随意的临时干预从长远来看是不可持续的,而且很可能导致美国在AI竞赛中落后。

被折叠的 条评论
为什么被折叠?



