OpenAI恢复无互联网访问的AI训练——Channel NewsAsia

OpenAI在采取额外安全措施后，恢复了对其最强大人工智能模型的强化学习训练和内部使用。该公司在训练前沿模型时阻断了互联网访问，Channel NewsAsia报道。

暂停原因

OpenAI表示，在9月2日一款内部研究模型短暂利用错误配置并获得有限互联网访问权限后，公司暂停了对其最强大模型的训练和评估。

OpenAI表示，在实施额外保护措施后，公司于10月1日恢复了强化学习训练和前沿模型的内部使用。由于担心能力日益增强的AI代理可能发现并利用软件漏洞，包括安全系统中的漏洞，公司加强了管控。

更多最新消息请关注 UA.News Telegram 频道 Telegram.

检查隔离系统

OpenAI还启动了一项行动，在其研究基础设施中寻找可能让模型逃离隔离计算环境的漏洞。AI安全评估机构METR和Redwood Research于10月23日表示，它们在OpenAI内部系统中发现了数个新漏洞。

在意外入侵Hugging Face的事件后，该公司正在对其模型活动进行广泛审查。OpenAI还向100多个组织通报了与其AI代理有关的未经授权活动事件。