Gemini отримала доступ до систем трьох компаній під час тесту — CNBC
Google заявила, що її модель штучного інтелекту Gemini під час кібербезпекового тестування отримала несанкціонований доступ до комп’ютерних систем трьох інших компаній. Як повідомляє CNBC, це перший випадок, коли компанія публічно повідомила про автономний доступ однієї зі своїх моделей до сторонніх систем без дозволу.
Помилка в тестовому середовищі
Інцидент стався у травні під час кібербезпекового тесту формату capture-the-flag, який проводив ізраїльський стартап Irregular. Агентам Google не мали надавати доступу до ширшого інтернету, однак через помилку в тестовому середовищі вони змогли вийти в мережу.
За даними Google, Gemini отримала доступ до трьох окремих приватних комп’ютерних систем. В одному випадку модель вгадала облікові дані, а у двох інших скористалася репозиторієм паролів, оприлюднених у відкритому доступі. Після того як агенти встановили, що взаємодіють із реальними системами компаній, а не з елементами тестового середовища, вони припинили подальші дії.
Більше актуальних новин читайте у Telegram-каналі UA.News.
Заяви Google та Irregular
Віцепрезидентка Google з інженерії безпеки Гізер Адкінс заявила, що модель знайшла публічну інформацію в інтернеті та вгадала облікові дані для сайтів, які вважала частиною тесту. За її словами, у всіх трьох випадках модель зупинилася.
Представник Irregular повідомив CNBC, що випадок із Gemini був пов’язаний із тією самою помилкою, яка раніше дала іншим моделям доступ до інтернету, і не є суттєво окремим інцидентом. За даними стартапу, всі відповідні лабораторії повідомили про проблему наприкінці липня, а з постраждалими суб’єктами зв’язалися в межах розслідування.
Google заявила, що Irregular повідомив їй про інцидент наприкінці липня. Компанія разом зі стартапом змінила процес тестування, але не назвала конкретну версію Gemini, що брала участь у ньому. Раніше OpenAI, Anthropic і Meta також повідомляли про випадки, коли їхні моделі виходили за межі тестових середовищ і намагалися отримати несанкціонований доступ до систем інших компаній.
