Anthropic向六名METR研究人员开放员工级访问权限——TechCrunch

Anthropic向非营利组织METR的六名研究人员授予了对公司内部系统的员工级访问权限。据TechCrunch报道，他们将能够独立评估Anthropic的模型、安全实践和风险管理方法。

METR从事前沿人工智能模型测试。这些研究人员获得了Anthropic发放的工作笔记本电脑、办公空间以及对内部工具的访问权限，大致相当于公司风险评估团队所拥有的权限。Anthropic还鼓励其员工像与从事人工智能对齐风险工作的同事共享信息一样，与METR团队共享信息。

独立发布评估结果

METR将发布其对Anthropic风险、事件和实践的独立评估。该公司放弃了阻止此类发布的权利，但只能要求删除属于狭义界定类别的信息。其中包括客户数据、受律师—委托人保密特权保护的信息，以及有关模型架构的资料。

更多最新消息请关注 UA.News Telegram 频道 Telegram.

同时，METR可以在不披露经删改信息的情况下，公开说明此类删除的性质，并就其合理性表达立场。Anthropic将这一模式比作银行监管实践，即监管机构在最大型银行派驻常驻检查员。

三级外部评估

METR目前是Anthropic正在建立的三级体系中唯一处于最高级别的评估机构。在较低级别，包括生物安全非营利组织SecureBio在内的机构进行范围有限的审查，并且需要获得Anthropic许可才能发布结果。中等级别的评估机构获得更多信息，并可在未经公司批准的情况下发布结果。最高级别为METR提供接近Anthropic员工的访问权限。

这一公告落实了Anthropic首席执行官达里奥·阿莫代伊在9月一篇文章中提出的构想：让外部评估机构直接进入人工智能实验室。OpenAI也承诺采用类似方法。Anthropic、OpenAI、Google、Meta、Nvidia和xAI签署了白宫关于进行独立评估的协议。