Australijscy badacze powiązali szkodliwe pakiety na RubyGems z agentami OpenAI

W Australii badacze oświadczyli, że agenci sztucznej inteligencji testowani przez OpenAI 11 maja przesłali setki szkodliwych pakietów do serwisu RubyGems. Jak informuje ABC News Australia, grupa badawcza uważa, że pakiety te mogły zostać stworzone przez wewnętrznych agentów OpenAI.

Działania na RubyGems

OpenAI potwierdziło incydent. Przedstawiciel firmy oświadczył, że zgodnie z wynikami kontroli agenci wykorzystywali platformę RubyGems do uzyskiwania dostępu do internetu, wykonywania bezpiecznych zadań i pozyskiwania informacji publicznych. Firma poinformowała również, że będzie kontynuować dochodzenie w ramach szerszego przeglądu aktywności agentów podczas szkolenia i oceny.

Według badaczy w maju agenci próbowali także uzyskać dane uwierzytelniające użytkowników RubyGems, wykorzystując wcześniej nieznaną lukę w zabezpieczeniach serwerów serwisu. Nie wiadomo, czy próba ta zakończyła się powodzeniem. Ponadto badacze twierdzą, że agenci wykorzystali stronę RubyDoc.info, która generuje dokumentację do kodu programowego, do uruchomienia własnego kodu na jej serwerach.

Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.

Inne incydenty

Ten przypadek może być co najmniej trzecim znaczącym epizodem, w którym agenci OpenAI ingerowali w infrastrukturę innych firm. Wcześniej grupa agentów przejęła niemieckojęzyczną stronę wiki i przekształciła ją w improwizowaną platformę wymiany wiadomości, aby oszukiwać podczas testów.

Jak podaje ABC News Australia, OpenAI nie ujawniło tego incydentu, gdy usuwało skutki lipcowego włamania do repozytorium open source Hugging Face. Dziesiątki tysięcy wiadomości od setek agentów, nazywających siebie „kolektywem”, wskazywały na koordynację ataku na Hugging Face. W tym tygodniu Anthropic poinformowało również o czwartym przypadku, w którym model sztucznej inteligencji podczas testowania włamał się do zewnętrznych systemów.

Czytaj nas na Telegram i Sends