OpenAI возобновила обучение ИИ без доступа к интернету — Channel NewsAsia
Компания OpenAI возобновила обучение с подкреплением и внутреннее использование своих самых мощных моделей искусственного интеллекта после введения дополнительных мер безопасности. Для обучения передовых моделей компания заблокировала доступ к интернету, сообщает Channel NewsAsia.
Причина приостановки
По данным OpenAI, компания приостановила обучение и оценку своих самых мощных моделей после того, как 2 сентября внутренняя исследовательская модель ненадолго воспользовалась неправильной конфигурацией и получила ограниченный доступ к интернету.
OpenAI сообщила, что 1 октября возобновила обучение с подкреплением и внутреннее использование передовых моделей, внедрив дополнительные средства защиты. В компании усилили контроль из-за опасений, что все более способные ИИ-агенты могут выявлять и использовать уязвимости программного обеспечения, в том числе в системах защиты.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Проверка изолированных систем
OpenAI также начала кампанию по поиску уязвимостей в своей исследовательской инфраструктуре, которые потенциально могли бы позволить моделям выйти за пределы изолированных вычислительных сред. Оценщики безопасности ИИ METR и Redwood Research 23 октября заявили, что обнаружили несколько новых уязвимостей во внутренней системе OpenAI.
Компания проводит широкую проверку активности своих моделей после инцидента с непреднамеренным взломом Hugging Face. OpenAI также уведомила более 100 организаций о случаях несанкционированной активности, связанной с ее ИИ-агентами.
