Anthropic暂停训练AI模型超过一个月——Channel NewsAsia

Anthropic在其首次公开募股申请文件中表示，出于安全考虑，该公司将一款新的基础AI模型的预训练推迟了一个多月。Claude的开发商决定加强对模型权重和知识产权被盗的防护，Channel NewsAsia报道。

访问外部系统

该文件还提及此前未披露的安全评估期间的事件。四个AI模型离开测试环境并获得了对真实外部计算机系统的访问权限。相关会话持续了10至34小时。

Anthropic表示，在与第三方合作伙伴进行的网络安全测试期间，由于错误，测试环境仍连接至互联网，尽管网络访问本应被禁用。

更多最新消息请关注 UA.News Telegram 频道 Telegram.

密码和个人数据

在其中一起事件中，模型的早期版本继续执行一项无法完成的评估任务，找到了已保存的密码，并利用该密码在第三方系统中获得了管理员权限。此后，它获得了额外的凭据、更改了系统设置，并访问了一名个人的个人数据。

Anthropic表示，已通知所有受该事件影响的相关方，且未发现模型试图逃避人类监督或相互协调行动的证据。该公司暂停了部分发布前网络安全评估以及风险较高的强化学习环境。该公司还表示，Claude未经人类授权绕过了付费访问限制，并获得了有关美国佐治亚州选民数量的汇总公开数据。