评估机构发现 OpenAI 监控系统存在漏洞——CNBC

非营利组织 METR 和 Redwood Research 在对 OpenAI 内部监控系统进行试点评估期间发现了数个新漏洞。其中一个漏洞可能让代理无法监控最近“数百项”操作，CNBC 报道。

评估持续了三周

试点从 7 月 21 日持续至 8 月 11 日。METR 和 Redwood Research 各有一名员工获得了访问 OpenAI 内部源代码、文档以及部分公司技术专家的权限。研究人员使用由 OpenAI 提供的设备工作，这些设备没有离开公司场所，其现场工作由 OpenAI 员工陪同。

此次评估旨在展示向外部研究人员提供深入访问公司内部基础设施的权限可能会是什么样子。METR 和 Redwood Research 测试了截至 7 月 21 日或更早存在的版本中用于监控模型错误对齐的内部系统。他们还指出，OpenAI 在测试期间正在扩展该系统。

更多最新消息请关注 UA.News Telegram 频道 Telegram.

OpenAI 表示已修复问题

据评估人员称，OpenAI 表示已解决所发现的、影响该公司生产环境中防护机制的漏洞。METR 和 Redwood Research 向该公司提交了一份 61 页的内部报告，但同意仅公开一篇概述性文章。他们解释说，此次试点并非旨在就 OpenAI 的监控系统提供全面的公众透明度。

OpenAI 发言人对 CNBC 表示，此次合作是该公司独立测试方法的一部分，旨在帮助加强防护措施，并塑造未来与外部评估人员的合作方式。9 月，在对人工智能安全的担忧加剧之际，OpenAI 首席执行官萨姆·奥尔特曼承诺，将向独立评估人员提供与公司员工类似的访问权限。