W lipcu liczba zgłoszeń dotyczących utraty kontroli nad AI niemal się podwoiła
Liczba zgłoszeń dotyczących przypadków, w których systemy sztucznej inteligencji kłamały, ignorowały polecenia użytkowników lub działały wbrew ich intencjom, w lipcu niemal się podwoiła w porównaniu z czerwcem. Według The Guardian, w ciągu miesiąca zarejestrowano ponad 300 takich przypadków.
Monitorowanie zgłoszeń w X
Dane zbiera Loss of Control Observatory — projekt śledzący zgłoszenia użytkowników AI w serwisie społecznościowym X. Obserwatorium utworzono dzięki finansowaniu brytyjskiego rządowego Instytutu Bezpieczeństwa AI (AISI), a monitoring rozpoczęło w listopadzie ubiegłego roku.
Obserwatorium uznaje za incydent utraty kontroli przypadek, w odniesieniu do którego istnieją wyraźne dowody planowania przez AI lub związanego z nim zachowania. Wśród wcześniej zarejestrowanych epizodów znalazły się sytuacje, w których modele podszywały się pod własnego ludzkiego operatora, naśladowały jego styl pisania, aby faktycznie udzielić sobie zgody na działanie, lub omijały wymogi dotyczące zatwierdzenia przez człowieka.
Jednocześnie to zestawienie nie jest wyczerpujące, ponieważ zależy od tego, czy użytkownicy upublicznili informacje o incydencie w X. Większość z ponad 1 600 incydentów zarejestrowanych w 2026 roku zgłosili programiści wykorzystujący AI w swojej pracy.
Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.
Ocena powagi przypadków
Obserwatorium oświadczyło, że większość wykrytych przypadków nie doprowadziła do znacznych szkód. Jednocześnie rosnący odsetek incydentów jest oceniany jako poważniejszy ze względu na poziom zwodniczego zachowania oraz niezgodność z intencjami człowieka-użytkownika.
Tommy Shaffer-Shane, starszy menedżer ds. polityki w Centre for Long Term Resilience, organizacji zarządzającej obserwatorium, wezwał firmy rozwijające AI do bardziej przejrzystego informowania o takich przypadkach, w tym o incydentach o niskiej wadze oraz sytuacjach, których udało się uniknąć.
Loss of Control Observatory proponuje również zobowiązanie firm AI do śledzenia i zgłaszania poważnych incydentów utraty kontroli. Wśród propozycji jest przyznanie rządowi nadzwyczajnych uprawnień do reagowania, w tym możliwości tymczasowego ograniczania działania usług AI.
