跳到内容

Anthropic引入METR六名评估员,开放内部访问权限

Anthropic于2026年10月宣布引入六名METR评估员,赋予其内部访问权限与独立发布权。但保留类别与未公开结果依然存在,这并非安全认证。

阅读需 10 分钟 编辑方针

2026年10月15日,Anthropic正式宣布:来自METR的六名成员已获得与公司内部风险评估团队相当的硬件资源、工作空间及系统访问权限。Anthropic与METR的这一新型合作关系意味着外部评估人员首次深入组织内部。并拥有公开发布分析报告的权利。这不是一份关于Claude安全性的既成裁决,而是对这一裁决未来如何形成与讨论方式的根本性调整。

Anthropic update on independent evaluators
Anthropic announces updates to embedding independent evaluators

本文基于Anthropic的公告、METR于2026年10月14日发布的工作方法说明、其关于内部评估的提案,以及此前核查记录等第一手文件撰写。我们无法获取保密协议或被审查系统的详情,因此不对该新团队尚未发布的结果作任何归因。

六名评估员,访问权限有其边界

说白了,Anthropic描述的是一个已嵌入公司运营的小型团队,其工具和信息权限与公司内部风险评估人员大体相当。关键词是「大体相当」,而非无限制访问。客户数据、受律师-客户特权保护的信息,以及模型架构细节,均属于通常被排除在外的类别。若需共享涉及模型架构的特别敏感信息,则须经过专项审批。

此举的核心目标,是让外部评估人员能够观察评估过程本身,而不仅仅是模型在演示场景中的行为表现。此前关于Claude测试中记录在案的非预期行为已经表明:环境条件、可用工具以及事件识别标准,对评估结论的影响不可低估。我们不将METR的加入定性为上述问题的解决方案,新发布的分析报告必须清晰说明究竟审查了哪些内容。

即便在METR内部,信息流通也仅限于获授权的团队成员。Anthropic明确指出,该机构的其他员工与嵌入团队的工作相互隔离,且相关协议具有法律约束力。因此,扩大评估人员的访问权限,并不等同于向公众开放数据和系统。我们认为,这种隔离机制本身是项目可信度的组成部分,前提是任何对结论有实质影响的限制必须在报告中明确声明。

三个层级,权限各异

实际上,Anthropic将合作划分为三个层级。第一级:公司向评估方提供针对特定调查范围的信息。并保留对发布内容的审批权。第二级:评估方可在无需公司审批的情况下发布报告。获取更多信息,但公司仍可在特定类别下进行内容删除。第三级:即METR目前所处的层级。在第二级基础上增加了上述内部访问权限。若仅统计合作协议数量而不区分层级。将严重高估现有外部监督的实际深度。

三个访问层级与各异的发布权限
三个访问层级与各异的发布权限

SecureBio、Accenture与Faculty被列于仍在推进中的报告中,Hugging Face则属于初步接触阶段的机构。这些合作均不等同于METR团队的嵌入式安排。工具层面同样存在本质区别:Anthropic更新的使用条款规范的是服务边界,而评估人员审查的是证据与实践。使用政策、访问协议与已完成核查,三者的性质截然不同。

发布不等于公开所有数据

根据Anthropic的声明。该公司无权否决METR分析报告的发布。Anthropic可以申请屏蔽属于双方约定保密类别的内容。METR可以公开描述此类屏蔽行为。并说明其是否认为这些屏蔽合理,但不得披露受保护的具体信息。这一机制让读者在无法获取底层内容时,仍能了解报告存在的局限。

Our approach to working with AI companies
How we approach working with AI companies on projects that the public might rely on to understand risks.

METR发布的方法论文件着重强调这一环节。该机构要求明确说明评估范围。持续时长、访问权限、可用资源、信息限制以及可能影响结论的外部压力。这是该组织对透明度的公开承诺,并非每份未来报告都将完整的保证。真正有效的验证方式。是将评估方所述的观察范围与其声称能够得出的结论相互比对。

METR的访问权限仍受保密信息类别的限制
METR的访问权限仍受保密信息类别的限制

将AI智能体访问银行账户的类比,是为了说明问题的性质,而非将两套系统等同视之。广泛的访问权限并不能消除所有障碍,也不会自动让最关键的证据变得触手可及。我们的判断是:发布方的编辑独立性与其实际可观察范围,必须分开加以描述。前者保护的是判断本身,后者则界定了判断的效力边界。

独立性体现在方法论之中

换句话说,METR明确指出,其职责是收集与失控风险相关的证据,而非单方面决定企业应如何开发或部署AI智能体。2026年10月14日发布的提案,将对齐、内部智能体管控与借助AI加速研究三个议题加以区分。这些只是拟议的调查方向,不应将该文件解读为Anthropic新访问协议已取得具体成果的清单。

A proposal for better informing the public about loss-of-control risks from frontier AI development
The key questions about internal AI development the public needs more evidence about, and a concrete proposal for how developers could work with METR to produce and share that evidence.

在METR自身的工作准则中,利益冲突、财务与运营独立性、保密原则以及方法公开均被明确列为要求。10月15日的公告并未提供此次新合作的详细财务数据,因此我们无从获取任何收费标准、报酬安排或零成本声明。正如Workday、Sana与Claude之间的架构分析所示,描述一套控制体系,不过是验证工作的起点。

对智能体用户而言意味着什么

换句话说,对于使用Claude的企业来说,这份公告本身不会改变任何现有合同条款或权限设置。它提供的是一个了解供应商风险的新潜在信息来源。公开发布的报告或许有助于提出更具针对性的问题,但必须结合报告的适用范围来解读。针对某家实验室内部智能体的调查,不能自动等同于对使用客户数据的外部应用的认证。

这一议题同样延伸至彭博社ASKB金融研究智能体的领域。若某项服务能够综合文件或调用工具,就必须厘清哪些证据支撑了其所谓的控制承诺。我们的判断是:一份出色的外部报告应当让疑点更加清晰可读,而不是用一枚可信度印章将其一笔勾销。目前,我们尚未找到关于这个新团队的任何结论性评估,足以作为定论加以引用。

Anthropic与METR:要点梳理

哪些已确认,哪些尚不明朗

  • 已确认:六名评估人员获得Anthropic所描述的内部访问权限;报告发布不受全面否决权限制。
  • 未披露:新团队的工作成果、完整时间表,以及协议的具体财务细节。
  • 持续关注:公开报告的内容、访问权限的边界,以及各项信息遮蔽背后的原因。

更宏观的视角

我们的判断是,这一消息将外界目光从单一模型本身,转向了构建该模型的整个组织体系。安全性同样取决于日志记录、激励机制、工具配置,以及对突发事件的响应能力。我们的人工智能专题报道持续追踪这一转变:仅仅追问某个回答是否正确已经不够,更需要理解那些在日常对话中根本不会浮现的行为是如何被观察和记录的。

值得持续关注的信号包括:新团队发布的首批报告、对访问缺口的具体描述,以及围绕信息遮蔽可能产生的分歧意见。还需验证相关证据是否支持跨时间段、跨公司的横向比较。就目前而言,我们所能描述的,是六名获授权进行深度审查的评估人员,以及一项经声明的发布权利,而非一份已经交付的安全认证书。

推广内容