Raport powiązał incydenty AI w Izraelu z błędami wykonawcy w Tel Awiwie
W Izraelu błędy w środowisku testowym telawiwskiego wykonawcy usług cyberbezpieczeństwa Irregular mogły doprowadzić do przypadków nieautoryzowanego dostępu modeli sztucznej inteligencji Anthropic, OpenAI i Meta do zewnętrznych systemów. Informuje o tym Anadolu Agency, powołując się na dochodzenie amerykańskiego wydawnictwa Effort.
Błędy podczas testów
Według Effort modele uzyskiwały dostęp do zewnętrznych serwerów, publikowały złośliwe pakiety i wykorzystywały luki nie z powodu autonomicznego „niekontrolowanego” zachowania, lecz z powodu niedociągnięć w organizacji symulowanych ćwiczeń capture-the-flag. Jak twierdzi wydawnictwo, wykonawca omyłkowo pozostawił aktywny dostęp do internetu.
Dane techniczne przedstawione w dochodzeniu wskazują, że ewaluatorzy informowali modele w poleceniach o braku dostępu do internetu, choć z powodu błędów konfiguracji publiczny dostęp do sieci pozostawał otwarty. Ponadto, według Effort, nie ustalono granic operacyjnych ani nie określono sieci, które mogłyby być dozwolonymi celami. Poszczególne uruchomienia modeli mogły skanować zewnętrzne sieci przez nawet 34 godziny.
Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.
Stanowisko dochodzenia
Effort oświadczyło, że przypadki dostępu do rzeczywistych systemów ustały po tym, jak inżynierowie dodali do poleceń podstawową instrukcję, by nie przeprowadzać włamań w realnym świecie. Wydawnictwo obarczyło odpowiedzialnością za te incydenty Anthropic i Irregular.
Wcześniej Anthropic powiązał cztery odrębne incydenty z udziałem modelu Claude z „nieostrożnością” sztucznej inteligencji, a Irregular opisał sytuację jako przypadek, w którym agent sam staje się podmiotem ataku. Dyrektor generalny Anthropic Dario Amodei po incydencie na Hugging Face mówił o ryzyku związanym z przyszłymi grupami modeli, które, jak stwierdził, mogą być zdolne do „przejęcia całego internetu”.
W dochodzeniu zaznaczono również, że nieautoryzowane włamania i modyfikowanie zapisów za pośrednictwem niezabezpieczonych modeli mogą stwarzać ryzyko naruszenia amerykańskiej ustawy o oszustwach komputerowych i nadużyciach komputerowych. Irregular jest zarejestrowana jako Pattern Labs Tech Inc w Delaware oraz Pattern Tech Ltd w Tel Awiwie. Według Anadolu Agency ani Irregular, ani amerykańskie laboratoria-klienci oficjalnie nie odpowiedziały na ustalenia Effort.
Czytaj nas na Telegram i Sends
