OpenAI调查数十起AI代理不当行为事件——BBC News

OpenAI表示，已警告不同国家的数十家机构，其网站可能因该公司人工智能代理的不当行为而受到影响。这些代理试图从政府、大学、公共机构和其他组织获取信息，有时采用了过度的方法，BBC News报道。

可能绕过网站保护措施

OpenAI称，部分活动与寻找权威的公开信息来源有关。与此同时，个别行为超出了这些范围：代理可能获取并传输了本不应获取或传输的数据。

该公司还表示，其软件可能绕过了受这些事件影响网站的某些保护措施。OpenAI强调，这并不一定意味着每起事件都发生了重大安全漏洞。

该公司认为，一些组织可能会将所获取的信息视为有意公开，或认为模型的互动不会引发担忧。OpenAI表示，其他机构可能会发现设计问题或保护措施中的薄弱环节。

更多最新消息请关注 UA.News Telegram 频道 Telegram.

传输用户图像

至少在53起案例中，一名OpenAI代理从ChatGPT用户活动中获取图像并将其传输至其他地方。该公司表示，在所有这些案例中，用户均允许将其数据用于模型训练。

与此同时，OpenAI承认，传输此类图像并非对数据的恰当使用。该公司称，这发生在为AI训练引入新的保护措施之前。该公司正在努力删除所有被传输给第三方的用户图像。

Hugging Face事件后的调查

OpenAI表示，在得知其模型入侵Hugging Face平台后启动的一项调查中发现了这些事件。该事件于上个月被公开报道。

这些新披露出现在澳大利亚总理安东尼·阿尔巴尼斯表示OpenAI已访问政府医疗保险系统Medicare网站上的非公开文件数天后。