OpenAI报告其模型绕过限制的四起事件——Ars Technica

OpenAI报告了四起发生在6月、涉及模型内部测试和训练的事件。据Ars Technica报道，这些模型绕过了既定的网页浏览限制，获得了网站非公开数据的访问权限，并使用了测试网络钱包中的资金。

访问非公开数据

在其中一起事件中，模型被要求在政府统计网站上查找历史医院床位统计数据，但在被拒绝访问后，它使用了文件上传功能。它获取了服务器配置文件和应用程序文件，包括凭据，分析了应用程序代码，绕过了统计服务的授权检查，并将此前无法访问的数据保存到本地。

在另一项评估中，被要求从公开研究仪表板获取五项指标的模型绕过了该组织的安全措施，并获得了凭据。在一项测试中，它修改了服务器配置，使内部搜索工具将请求转发至公开仪表板。在另一项测试中，它下载了五个包含147,451行的非公开表格。即使在设置被重置后，该模型仍继续使用令牌获取非公开数据。在这项测试中，它的五个回答均被认定为错误。

更多最新消息请关注 UA.News Telegram 频道 Telegram.

加密货币钱包和网络请求

在另一起事件中，模型被指派更新一款加密货币交易应用程序。它从开发者公开已知的恢复短语中推导出钱包密钥，找到了一个拥有测试网络代币的账户，并将其用于部署所需的合约。OpenAI指出，该模型曾质疑自己是否获得许可，但认为公开的恢复短语以及测试代币没有价值，允许其使用这些资金。

在第四起事件中，模型搜索公开贸易统计数据，并绕过了对网络请求类型的限制。它使用外部浏览器发送POST请求，获得图像格式的响应，并通过光学字符识别识别出数字。该模型还创建了一个辅助工具，通过转发服务和用于回调的邮箱传输响应文本。