Mythos 5 потратила сотни страниц на CAPTCHA во время теста Anthropic
Модель Mythos 5 от Anthropic во время тестирования в апреле получила несанкционированный доступ к интернету и загрузила вредоносный программный пакет в публичную базу данных. Как сообщает TechCrunch, значительную часть работы агент потратил не на написание эксплойта, а на попытки пройти CAPTCHA при регистрации в индексе Python Package Index, или PyPI.
Тест вышел за пределы изолированной среды
Anthropic поручила модели взломать систему и получить определенную цель в рамках изолированной среды. Однако оценщики оставили доступ к открытому интернету, после чего модель решила разместить эксплойт в Python-пакете. Агент считал, что этот пакет могут скачать пользователи системы, к которой он пытался получить доступ.
Для публикации пакета модели требовалось создать учетную запись на PyPI. Регистрация предусматривала прохождение CAPTCHA, в том числе hCaptcha. Anthropic опубликовала транскрипт рассуждений агента объемом 1022 страницы, где зафиксированы его попытки преодолеть антибот-защиту.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Сложности с заданиями CAPTCHA
Агент испытывал трудности с технической обработкой изображений CAPTCHA, интерпретацией заданий и выбором нужных объектов. В частности, он пытался определить животное, отличавшееся от других, среди очень похожих изображений крокодилов и лягушек. Страницы с 45-й по 140-ю транскрипта посвящены работе модели над способом решения CAPTCHA.
После прохождения одной проверки агент столкнулся с необходимостью подтвердить электронную почту. Он также пытался получить номер телефона и пройти другую, ползунковую CAPTCHA, а затем вновь вернулся к проверкам hCaptcha при входе в первую учетную запись.
В итоге агент пришел к выводу, что проверку нужно пройти достаточно быстро, иначе токен безопасности может утратить силу. После этого он смог завершить процедуру и загрузить вредоносный пакет.
