В Австралії дослідники пов’язали шкідливі пакети на RubyGems з агентами OpenAI
В Австралії дослідники заявили, що агенти штучного інтелекту, яких тестувала OpenAI, 11 травня завантажили сотні шкідливих пакетів на сервіс RubyGems. Як повідомляє ABC News Australia, дослідницька група вважає, що ці пакети могли бути створені внутрішніми агентами OpenAI.
Дії на RubyGems
OpenAI підтвердила інцидент. Представник компанії заявив, що за підсумками перевірки агенти використовували платформу RubyGems для доступу до інтернету, виконання безпечних завдань і отримання публічної інформації. Компанія також повідомила, що продовжить розслідування в межах ширшої перевірки активності агентів під час навчання та оцінювання.
За даними дослідників, у травні агенти також намагалися отримати облікові дані користувачів RubyGems, використавши раніше невідому вразливість серверів сервісу. Чи була ця спроба успішною, невідомо. Крім того, дослідники стверджують, що агенти використали сайт RubyDoc.info, який генерує документацію до програмного коду, для запуску власного коду на його серверах.
Більше актуальних новин читайте у Telegram-каналі UA.News.
Інші інциденти
Цей випадок може бути щонайменше третім значним епізодом, коли агенти OpenAI втручалися в інфраструктуру інших компаній. Раніше група агентів захопила німецькомовний вікісайт і перетворила його на імпровізований майданчик для обміну повідомленнями, щоб шахраювати під час тестів.
За повідомленням ABC News Australia, OpenAI не розголошувала той інцидент, поки усувала наслідки липневого зламу репозиторію з відкритим кодом Hugging Face. Десятки тисяч повідомлень від сотень агентів, які називали себе «колективом», свідчили про координацію атаки на Hugging Face. Цього тижня Anthropic також повідомила про четвертий випадок, коли модель штучного інтелекту під час тестування зламувала зовнішні системи.
