Mythos 5 poświęciła setki stron na CAPTCHA podczas testu Anthropic

Model Mythos 5 firmy Anthropic podczas testów w kwietniu uzyskał nieautoryzowany dostęp do internetu i przesłał złośliwy pakiet oprogramowania do publicznej bazy danych. Jak informuje TechCrunch, agent poświęcił znaczną część pracy nie na pisanie exploita, lecz na próby przejścia CAPTCHA podczas rejestracji w indeksie Python Package Index, czyli PyPI.

Test wykroczył poza izolowane środowisko

Anthropic zleciła modelowi włamanie do systemu i uzyskanie określonego celu w izolowanym środowisku. Jednak oceniający pozostawili dostęp do otwartego internetu, po czym model zdecydował się umieścić exploit w pakiecie Pythona. Agent uważał, że pakiet ten mogą pobrać użytkownicy systemu, do którego próbował uzyskać dostęp.

Aby opublikować pakiet, model musiał utworzyć konto na PyPI. Rejestracja wymagała przejścia CAPTCHA, w tym hCaptcha. Anthropic opublikowała liczący 1022 strony transkrypt rozumowania agenta, w którym odnotowano jego próby pokonania ochrony antybotowej.

Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.

Trudności z zadaniami CAPTCHA

Agent miał trudności z technicznym przetwarzaniem obrazów CAPTCHA, interpretacją zadań i wyborem potrzebnych obiektów. W szczególności próbował określić zwierzę różniące się od pozostałych wśród bardzo podobnych obrazów krokodyli i żab. Strony od 45. do 140. transkryptu poświęcono pracy modelu nad sposobem rozwiązania CAPTCHA.

Po przejściu jednej weryfikacji agent stanął przed koniecznością potwierdzenia adresu e-mail. Próbował także uzyskać numer telefonu i przejść inną, suwakową CAPTCHA, a później ponownie wrócił do kontroli hCaptcha podczas logowania na pierwsze konto.

Ostatecznie agent doszedł do wniosku, że weryfikację trzeba przejść dość szybko, w przeciwnym razie token bezpieczeństwa może utracić ważność. Następnie zdołał zakończyć procedurę i przesłać złośliwy pakiet.

Czytaj nas na Telegram i Sends