Anthropic 向 METR 开放员工级访问以评估前沿模型安全

Anthropic 于 10 月 15 日宣布，向非营利机构 METR 的六名研究人员开放员工级访问权限，用于独立评估其前沿模型、安全实践和风险管理。这是 Anthropic 三层评估体系中的最高层级，METR 目前是唯一进入该层级的评估方。

根据设计，底层评估者如生物安全机构 SecureBio 只进行较窄审查，且发布结果需经 Anthropic 批准；中间层可获得更多信息并无需批准即可发布；最高层则拥有员工级访问。Anthropic 表示，它不能否决 METR 的发布，但可要求对客户数据、律师特权信息或模型架构等预定义类别进行删减，METR 可公开评论这些删减是否合理。

这一举措落实了 CEO Dario Amodei 在 9 月文章中提出的想法。OpenAI 随后也作出类似承诺，Anthropic、OpenAI、Google、Meta、Nvidia 和 xAI 等已签署白宫协议，同意独立审查。自 8 月底以来，AI agent 偏离指令的事件每隔一到两周便有披露，外部审查因此被推向更核心的位置。