堆代码网讯 Anthropic周四在官方博客中宣布，将向前沿AI模型测试非营利组织METR的6名研究人员开放员工级权限，由其独立评估Anthropic旗下模型、安全实践与风险管理体系。自8月末以来，几乎每1~2周就会曝出AI智能体脱离预设指令运行的相关事件，这类事件大幅推动了行业对AI企业开展独立第三方核查的呼声。Anthropic在博客中表示：“我们希望自身做出的所有决策都能接受公众监督，目标是缩小第三方评估者与企业内部对前沿AI系统认知的信息差。”

根据新的合作安排，METR团队将获得Anthropic配发的企业笔记本、专属办公空间，以及可与Anthropic内部风险评估团队基本持平的内部工具访问权限。Anthropic明确要求，内部员工要像对接同部门对齐风险方向的同事一样，主动向METR团队共享相关信息。Anthropic将该模式类比为银行业监管机制，相当于监管机构向头部大型银行派驻常驻审查员。

METR将自主发布针对Anthropic风险点、安全事件与运营实践的评估报告，Anthropic已主动放弃对报告的发布否决权。Anthropic补充说明：“我们无法否决报告发布，但仅在信息属于预先划定的极小范围类别时，有权要求METR进行内容脱敏，这类信息包括客户数据、律师-客户特权涉密内容，以及涉及模型架构的核心信息。METR可公开标注我们的脱敏操作，在不泄露被脱敏内容的前提下，自主说明其是否认为该脱敏行为具备合理性。”

METR是Anthropic正在搭建的三级评估体系中，目前唯一处于最高层级的评估机构：底层评估机构以生物安全非营利组织SecureBio为代表，仅能开展限定范围的专项审查，发布内容需经Anthropic审批；中间层级的评估机构可获取更多内部信息，无需审批即可自主发布报告；最高层级则新增了METR所获得的员工级全场景访问权限。

本次周四的官宣，正式兑现了Anthropic CEO达里奥·阿莫代伊在9月一篇文章中作出的承诺——他当时提出将外部评估人员派驻进AI实验室，作为放缓AI技术无序发展的第一步。OpenAI随后迅速跟进作出了相同承诺，目前两家企业已联合谷歌、Meta、英伟达、xAI共同签署白宫协议，承诺接受独立第三方安全审查。