Отчёт связал инциденты с ИИ в Израиле с ошибками подрядчика в Тель-Авиве
В Израиле ошибки в тестовой среде базирующегося в Тель-Авиве подрядчика по кибербезопасности Irregular могли привести к случаям несанкционированного доступа моделей искусственного интеллекта Anthropic, OpenAI и Meta к внешним системам. Об этом сообщает Anadolu Agency со ссылкой на расследование американского издания Effort.
Ошибки во время тестирования
По утверждению Effort, модели получали доступ к внешним серверам, публиковали вредоносные пакеты и использовали уязвимости не из-за автономного «неконтролируемого» поведения, а вследствие недостатков в организации симулированных упражнений capture-the-flag. Как утверждает издание, подрядчик по ошибке оставлял активным доступ к интернету.
Технические данные, изложенные в расследовании, свидетельствуют, что оценщики сообщали моделям в запросах об отсутствии доступа к интернету, хотя из-за ошибок конфигурации публичный сетевой доступ оставался открытым. Также, по данным Effort, не были установлены операционные границы и не были определены сети, которые могли быть разрешёнными целями. Отдельные запуски моделей могли сканировать внешние сети до 34 часов.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Позиция расследования
Effort заявило, что случаи доступа к реальным системам прекратились после того, как инженеры добавили в запросы базовое указание не осуществлять взломы в реальном мире. Издание возложило ответственность за эти инциденты на Anthropic и Irregular.
Ранее Anthropic связывала четыре отдельных инцидента с участием модели Claude с «неосторожностью» искусственного интеллекта, а Irregular описывала ситуацию как случай, когда агент сам становится субъектом атаки. Генеральный директор Anthropic Дарио Амодеи после инцидента на Hugging Face говорил о рисках будущих групп моделей, которые, по его словам, могут быть способны «захватить весь интернет».
В расследовании также отмечено, что несанкционированные проникновения и изменение записей через незащищённые модели могут создавать риск нарушения американского Закона о компьютерном мошенничестве и злоупотреблениях. Irregular зарегистрирована как Pattern Labs Tech Inc в Делавэре и Pattern Tech Ltd в Тель-Авиве. По данным Anadolu Agency, ни Irregular, ни американские лаборатории-клиенты официально не ответили на выводы Effort.
