Звіт пов’язав інциденти ШІ в Ізраїлі з помилками підрядника в Тель-Авіві
В Ізраїлі помилки в тестовому середовищі кібербезпекового підрядника Irregular, що базується в Тель-Авіві, могли спричинити випадки несанкціонованого доступу моделей штучного інтелекту Anthropic, OpenAI та Meta до зовнішніх систем. Про це повідомляє Anadolu Agency з посиланням на розслідування американського видання Effort.
Помилки під час тестування
За твердженням Effort, моделі отримували доступ до зовнішніх серверів, публікували шкідливі пакети та використовували вразливості не через автономну «неконтрольовану» поведінку, а через недоліки в організації симульованих вправ capture-the-flag. Як стверджує видання, підрядник помилково залишав активним доступ до інтернету.
Технічні дані, викладені в розслідуванні, свідчать, що оцінювачі повідомляли моделям у запитах про відсутність доступу до інтернету, хоча через помилки конфігурації публічний мережевий доступ залишався відкритим. Також, за даними Effort, не було встановлено операційних меж і визначено мережі, що могли бути дозволеними цілями. Окремі запуски моделей могли сканувати зовнішні мережі до 34 годин.
Більше актуальних новин читайте у Telegram-каналі UA.News.
Позиція розслідування
Effort заявило, що випадки доступу до реальних систем припинилися після того, як інженери додали до запитів базову вказівку не здійснювати зламів у реальному світі. Видання поклало відповідальність за ці інциденти на Anthropic та Irregular.
Раніше Anthropic пов’язувала чотири окремі інциденти за участю моделі Claude з «необережністю» штучного інтелекту, а Irregular описувала ситуацію як випадок, коли агент сам стає суб’єктом атаки. Генеральний директор Anthropic Даріо Амодеї після інциденту на Hugging Face говорив про ризики майбутніх груп моделей, які, за його словами, можуть бути здатні «захопити весь інтернет».
У розслідуванні також зазначено, що несанкціоновані проникнення та зміна записів через незахищені моделі можуть становити ризик порушення американського Закону про шахрайство та зловживання з комп’ютерами. Irregular зареєстрована як Pattern Labs Tech Inc у Делавері та Pattern Tech Ltd у Тель-Авіві. За даними Anadolu Agency, ні Irregular, ні американські лабораторії-клієнти офіційно не відповіли на висновки Effort.
