开放模型正面临关键监管考验

Interconnects AI14 天前

开放模型正面临关键监管考验

开放权重模型正在经历迄今最严峻的一轮政策压力。文章认为,过去围绕开源 AI 的反对声音曾多次出现,但当前形势不同:一些新的监管方式正在被讨论、测试甚至落实,而且可能直接影响开放模型的发布与使用。

目前已有多方提到,美国白宫正在讨论如何通过新的行政命令管理开放模型。相关信息尚未正式公布,潜在影响可能主要集中在两类对象:

  • 来自中国的模型;
  • 政府部门对模型的使用。

文章提醒,即便初始范围有限,这类政策也可能成为后续更广泛限制的起点。

开放模型缺少强有力的经济代言人

作者指出,开放模型生态不像闭源模型公司那样拥有集中、明确且资源雄厚的商业代表。因此,当政策可能限制开放模型时,生态中的推理服务商、微调公司、产品团队和开发者,很难形成与大型闭源模型公司相当的游说能力。

近期围绕模型授权框架的讨论中,开放模型如何被纳入监管成为议题。有参与者主张,应依据模型能力为开放模型设置豁免条件。但与此同时,中国开放模型在当前开放模型阵营中具有明显领先地位,而美国本土部分开放模型公司尚未发布公开模型。这使得“前沿开放模型能力”很容易与地缘政治、蒸馏争议和国家安全话题绑定在一起。

作者认为,任何形式的全面禁令都会对 AI 的长期发展造成重大损害。

可能出现的监管方向

文章判断,最可能出现的政策动作,是禁止或无限期推迟能力显著高于当前前沿开放模型水平的开放权重模型发布。作者提到的参照范围包括 GPT 5.5、Claude Opus 4.8、GLM-5.2 等能力层级,并认为按照开放模型与闭源模型之间的能力差距,这一压力可能在未来数月内显现。

如果某个开放权重模型被认定接近或达到前沿闭源模型能力,政府可能要求进行审查。问题在于,一旦这种审查机制建立,开放模型的能力门槛可能会比闭源模型推进得更慢。原因包括:

  • 闭源模型相对更容易被企业控制和管理;
  • 闭源模型公司拥有更强的政策影响力;
  • 开放模型一旦发布,权重可被广泛复制和部署,监管者更难撤回。

文章认为,当前影响开放模型的两条政策线索正在同时展开:一是蒸馏问题,二是前沿能力问题。两者性质不同,但正在共同构成支持限制甚至禁止开放模型的论述基础。

蒸馏争议与监管俘获

文章对当前“蒸馏”争议持批判态度。作者认为,围绕蒸馏的政策倡议在很大程度上已经演变为监管俘获:提出解决方案的组织本身,可能会从限制竞争对手中获得显著商业利益。

文中以 Anthropic 为例。作者称,Anthropic 正在推动反对中国模型的政策叙事,内容包括博客文章、致议员信件以及对外国公司使用其 API 的描述。Anthropic 检测到外国公司使用其 API,随后关闭相关访问,并提出政策建议。但作者认为,公开的技术证据仍然有限。

作者并不否认企业保护知识产权的合理性,但认为企业不应要求政府通过政策巩固其市场地位。如果相关政策导致美国与全球开放模型社区隔离,代价可能很高。

在作者看来,现阶段关于蒸馏并没有充分信息支撑强监管方案。相比政府直接介入,更可行的做法是让模型实验室先自行加强执行和防护。

API 并不天然安全

文章还指出,围绕蒸馏的讨论中存在一个常见假设:开放权重模型不安全,而 API 形式的闭源模型更安全。作者认为这一说法被过度放大。

即便模型能力只通过 API 提供,仍可能面临越权访问、越狱和非预期调用。文章提到,Claude Mythos 在限制性私测阶段也曾发生未经授权访问事件。作者据此认为,如果某个模型确实具备高度危险能力,仅仅通过 API 托管并不能自动消除风险。

作者的观点是:如果模型中存在真正危险的能力,在讨论是否会被蒸馏之前,更一致的做法应当是避免将其放在可被直接查询的 API 中。

前沿开放模型迟早会出现

蒸馏问题之外,更难回避的是前沿开放权重模型本身。随着开放模型能力提升,政策制定者必须回答:当开放权重模型达到接近前沿闭源模型的通用能力时,应当如何管理?

作者认为,这是一个真实且困难的问题,但直接禁令很可能不是答案。原因包括:

  • 如果相关模型在其他国家仍可获得,单边禁令难以阻止恶意行为者使用;
  • 如果美国率先限制开放模型,全球开放社区仍会继续发展;
  • 过早禁止可能更多反映恐慌、政治压力或产业竞争,而不一定是有效的安全治理。

文章认为,政策制定需要区分两个问题:

  1. 蒸馏争议:涉及 API 使用、知识产权保护和模型输出是否被用于训练竞争模型;
  2. 前沿开放能力:涉及开放权重模型达到高能力水平后,如何平衡安全、竞争和开放生态。

将一个问题的解决方案简单套用到另一个问题上,可能导致过度监管。

对开放模型生态的影响

如果美国对中国开放权重模型实施广泛禁令,文章认为,这不仅会影响中国模型公司,也会重创美国正在形成的开放模型经济。许多推理服务、微调服务、应用产品和创业公司,都建立在开放模型持续进步的基础上。

作者担心,限制开放模型可能会让闭源模型公司获得更稳固的市场位置,同时削弱开发者和创业公司的选择空间。

文章的核心判断

文章的核心观点是:开放权重模型的未来正处在关键窗口期。围绕蒸馏、地缘政治与前沿能力的讨论,正在快速汇合成一套支持限制开放模型的政策叙事。

作者并未否认前沿 AI 能力带来的安全挑战,但反对以笼统禁令处理复杂问题。文章主张,在没有充分证据和可执行方案之前,应谨慎对待针对开放模型的广泛限制,避免用监管手段固化少数闭源模型公司的优势。

评论

请登录后发表观点

暂无数据