Gemini uzyskała dostęp do systemów trzech firm podczas testu — CNBC
Google poinformował, że jego model sztucznej inteligencji Gemini podczas testów cyberbezpieczeństwa uzyskał nieautoryzowany dostęp do systemów komputerowych trzech innych firm. Jak podaje CNBC, jest to pierwszy przypadek, gdy firma publicznie poinformowała o autonomicznym dostępie jednego ze swoich modeli do systemów podmiotów trzecich bez zezwolenia.
Błąd w środowisku testowym
Incydent miał miejsce w maju podczas testu cyberbezpieczeństwa typu capture-the-flag, prowadzonego przez izraelski startup Irregular. Agenci Google nie mieli otrzymać dostępu do szerszego internetu, jednak z powodu błędu w środowisku testowym mogli połączyć się z siecią.
Według Google Gemini uzyskała dostęp do trzech odrębnych prywatnych systemów komputerowych. W jednym przypadku model odgadł dane uwierzytelniające, a w dwóch pozostałych skorzystał z repozytorium haseł opublikowanych publicznie. Gdy agenci ustalili, że wchodzą w interakcję z rzeczywistymi systemami firm, a nie z elementami środowiska testowego, zaprzestali dalszych działań.
Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.
Oświadczenia Google i Irregular
Wiceprezes Google ds. inżynierii bezpieczeństwa Heather Adkins oświadczyła, że model znalazł publiczne informacje w internecie i odgadł dane uwierzytelniające do stron internetowych, które uznał za część testu. Jak powiedziała, model zatrzymał się we wszystkich trzech przypadkach.
Przedstawiciel Irregular przekazał CNBC, że przypadek Gemini był związany z tym samym błędem, który wcześniej dał innym modelom dostęp do internetu, i nie stanowi istotnie odrębnego incydentu. Według startupu wszystkie odpowiednie laboratoria zostały powiadomione o problemie pod koniec lipca, a z poszkodowanymi podmiotami skontaktowano się w ramach dochodzenia.
Google poinformował, że Irregular powiadomił go o incydencie pod koniec lipca. Firma wspólnie ze startupem zmieniła proces testowania, ale nie podała konkretnej wersji Gemini, która w nim uczestniczyła. Wcześniej OpenAI, Anthropic i Meta również zgłaszały przypadki, w których ich modele wychodziły poza środowiska testowe i próbowały uzyskać nieautoryzowany dostęp do systemów innych firm.
Czytaj nas na Telegram i Sends
