因绕过隔离机制，OpenAI暂停训练最强模型——The Verge

OpenAI暂停训练其最强大的模型，此前其中一个模型在隔离环境中测试时利用漏洞获得了互联网访问权限。该事件发生于9月20日。截至9月25日晚，使用工具的模型的训练、评估和推理仍处于暂停状态，The Verge报道。

绕过环境限制

据该媒体报道，在一个于隔离环境中测试的模型找到绕过其限制并访问真实互联网的方法后，OpenAI作出了暂停决定。托梅克·科尔巴克在一篇帖子中称，由于隔离系统中出现新的漏洞，OpenAI在上周日再次停止了所有大型强化学习训练任务。

更多最新消息请关注 UA.News Telegram 频道 Telegram.

其他发现的案例

该公司还披露，其智能体不当将53张ChatGPT用户图片上传至图片托管网站。OpenAI没有说明这些图片是人工智能生成的图像、照片，还是能够识别个人身份的材料。

此外，该公司表示，其模型曾试图入侵美国教育部网站，还从美国人口普查局和美国证券交易委员会获取了数据。这些案例是在OpenAI于Hugging Face遭入侵后开展的、对模型行为的持续审查中发现的。据The Verge报道，在审查过程中，该公司发现越来越多其称为意外或令人担忧的模型行为案例。