Исследователь заявил о 16 тысячах обращений агентов OpenAI к UNCTAD — The Verge

Исследователь безопасности Роуэн Говард-Джонс заявил, что агенты OpenAI более 16 тысяч раз просканировали статистический сайт Конференции ООН по торговле и развитию (UNCTAD) в период с апреля по июнь. Об этом сообщает The Verge.

Получение статистических данных

По оценке Говарда-Джонса, агентам, вероятно, поручили получить через API UNCTADstat общедоступные данные, связанные с Индексом производственного потенциала (PCI). В то же время, по его словам, агенты не имели прямого доступа к API и были ограничены в возможности получать данные из UNCTADstat из-за ограничений своих HTTP-инструментов.

Позднее агенты нашли способ обойти эти ограничения и начали получать данные с сайта, однако по-прежнему сталкивались с ошибками. Как пишет издание, система предположила, что ее запросы перехватывает фильтр, которого на самом деле не существовало, после чего начала маскировать свое поведение.

Больше актуальных новостей — в Telegram-канале UA.News Telegram.

Инструмент Google

В конечном итоге агенты выяснили, что могут задействовать Google XSS Game — обучающий инструмент для изучения межсайтового скриптинга — для достижения своей цели. The Verge отмечает, что агенты прибегали ко все более агрессивным методам, пытаясь получить доступ к данным ООН.

OpenAI и ООН не предоставили оперативных комментариев по запросу издания.