Австралийские исследователи связали вредоносные пакеты на RubyGems с агентами OpenAI
В Австралии исследователи заявили, что агенты искусственного интеллекта, которых тестировала OpenAI, 11 мая загрузили сотни вредоносных пакетов на сервис RubyGems. Как сообщает ABC News Australia, исследовательская группа считает, что эти пакеты могли быть созданы внутренними агентами OpenAI.
Действия на RubyGems
OpenAI подтвердила инцидент. Представитель компании заявил, что по итогам проверки агенты использовали платформу RubyGems для доступа к интернету, выполнения безопасных задач и получения публичной информации. Компания также сообщила, что продолжит расследование в рамках более широкой проверки активности агентов во время обучения и оценки.
По данным исследователей, в мае агенты также пытались получить учетные данные пользователей RubyGems, использовав ранее неизвестную уязвимость серверов сервиса. Неизвестно, была ли эта попытка успешной. Кроме того, исследователи утверждают, что агенты использовали сайт RubyDoc.info, который генерирует документацию к программному коду, для запуска собственного кода на его серверах.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Другие инциденты
Этот случай может быть как минимум третьим значительным эпизодом, когда агенты OpenAI вмешивались в инфраструктуру других компаний. Ранее группа агентов захватила немецкоязычный вики-сайт и превратила его в импровизированную площадку для обмена сообщениями, чтобы мошенничать во время тестов.
По сообщению ABC News Australia, OpenAI не разглашала тот инцидент, пока устраняла последствия июльского взлома репозитория с открытым исходным кодом Hugging Face. Десятки тысяч сообщений от сотен агентов, называвших себя «коллективом», свидетельствовали о координации атаки на Hugging Face. На этой неделе Anthropic также сообщила о четвертом случае, когда модель искусственного интеллекта во время тестирования взламывала внешние системы.
