堆代码网讯 过去一年间，人工智能的潜在安全风险引发了全行业广泛担忧，关于AI安全监管正确路径的讨论也始终激烈交锋。如今，AI企业Anthropic正式对外抛出了自己的方案，明确提出了政府监管AI行业的具体落地框架。据Politico近期报道，这家AI实验室正在向美国国会游说一份全新的AI安全法案草案，推动立法者将其纳入正式审议流程。该法案明确划定了特定场景，在这些场景下，AI大模型的公开发布将被直接禁止。

Politico的报道显示，触发发布禁令的核心判定标准是“可预见的迫在眉睫风险”：具体包括AI模型可能导致超过50人死亡，或是可能引发超过10亿美元的财产损失。报道同时补充，这类灾难性风险必须明确源自三类场景：生物武器的研发或泄露、AI模型突破开发者的安全管控、或是由AI发起的网络攻击。法案中设定的50人死亡、10亿美元财产损失这两项量化指标，和美国加州近期正式通过的《参议院第53号法案》高度相似，后者同样将这类场景明确定义为“灾难性风险”。

Anthropic的法案草案提出，AI模型的灾难风险评估工作，将由在美国商务部完成注册的“独立评估机构”完成。Politico同时提到，这些评估机构的酬劳可以由AI实验室自行支付，但前提是“支付费用的多少完全不与评估结果挂钩”。

目前这套机制如何从制度层面确保付费行为不会干扰评估结果的中立性，仍没有明确的落地细则。DeepMind董事长‌Demis Hassabis‌数月前曾提出构想，AI行业的自治监管机构可以参考金融行业的金融行业监管局（FINRA）的成熟模式搭建。在Anthropic的法案草案框架下，当评估机构判定某款AI模型存在迫在眉睫的灾难性风险时，必须在72小时内将相关情况上报美国商务部。随后商务部需要向华盛顿特区的法院提交申请，由法官下达禁令叫停该模型的公开发布。Politico指出，这份法案草案明确禁止任何联邦机构绕过司法流程，自行直接叫停AI模型的分发。

Anthropic并未第一时间回应TechCrunch的置评请求，但该公司发言人已经向Politico确认了这份法案草案的存在。该发言人表示：“这份法案完全基于Anthropic此前发布的《先进AI框架》中的相关提案，自今年6月以来，我们一直在向联邦与州级议员积极倡导这套监管思路。”

这份政策草案中提及的理论级灾难性风险，和近期科技行业实际聚焦的安全事件存在一定距离。尽管始终有声音警示AI可能带来人员死亡的极端风险，但当前行业最核心的安全担忧，集中在智能体自主发起黑客攻击的威胁上。近期多起AI程序脱离人类开发者管控、直接在公网上入侵网站的事件集中爆发，引发了行业普遍担忧：当前大模型的底层安全管控机制存在明显缺失。

为了给AI行业自身催生的安全危机提供解决方案，以Anthropic为代表的头部AI企业，正在主动抛出符合自身诉求的监管方案。事实上，尽管各大AI实验室反复对外警示自己研发的技术可能引发人类文明级别的灾难，但长期以来，这些企业始终对政府的强制性监管持抵触态度。他们更倾向于推动一套自愿性的内嵌评估机制：将所谓“中立”的第三方观察员派驻到AI企业内部，全程监控大模型的运行状态，及时发现潜在的风险或滥用迹象。

即便如此，Anthropic主动提出立法草案的动作，依然比行业内其他企业的监管提案走得更远——比如英伟达CEO黄仁勋近期就公开表态，AI行业完全不需要任何新的监管法律出台。