Badanie wykazało brak publicznych planów powstrzymywania AI

Czołowi twórcy systemów sztucznej inteligencji mają niewiele publicznie udokumentowanych planów działania na wypadek, gdy model będzie próbował obejść ludzką kontrolę. Poinformował o tym TechCrunch, powołując się na ocenę organizacji Guidelight AI Standards.

Guidelight przeanalizowała publicznie dostępne materiały Anthropic, Google, OpenAI, Meta i xAI pod kątem sześciu priorytetowych praktyk swojego standardu Control. Organizacja oceniała między innymi wewnętrzne rejestrowanie i monitorowanie działań AI, zatrzymywanie systemów po serii sygnałów niewłaściwego zachowania, niezależny audyt środków kontroli oraz istnienie konkretnego planu powstrzymania modelu.

Ocena publicznej gotowości

Plan powstrzymania zakłada z góry określone działania po wykryciu próby obejścia kontroli przez AI. Powinien określać, jakie uprawnienia należy odebrać modelowi, dla kogo może on nadal działać i pod jakimi ograniczeniami, a także kiedy należy go całkowicie wyłączyć.

Najwyższy wynik otrzymało OpenAI — trzy punkty na pięć. Według Guidelight firma wielokrotnie wstrzymywała lub kończyła procesy robocze, w tym wewnętrzne wdrażanie i trenowanie modeli, po incydentach związanych z bezpieczeństwem. Firma opisywała również kroki niezbędne do wznowienia tych procesów.

Jednocześnie w raporcie Guidelight wskazano, że nie ma publicznych dowodów na istnienie w OpenAI sformalizowanego planu reagowania na przyszłe incydenty związane z niezgodnością modeli z ludzką kontrolą.

Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.

Najniższe oceny właśnie za ujawnianie planów powstrzymania otrzymały Meta i Anthropic. Guidelight nie znalazła potwierdzenia, że Meta ma plan reagowania na utratę kontroli nad modelem lub zamierza go wdrożyć. W sierpniowym raporcie Anthropic dotyczącym ryzyka, według oceny organizacji, nie ma mowy o ograniczeniu wdrażania modelu jako możliwym rezultacie badania incydentów związanych z niezgodnością lub kontrolą.

Stanowiska firm i wymogi regulatorów

Przedstawiciel OpenAI oświadczył, że ocena nie obejmuje wszystkich wewnętrznych praktyk firmy. Jak powiedział, OpenAI ma procesy ograniczania uprawnień, wstrzymywania obciążeń roboczych, zawężania wdrożenia lub całkowitego wyłączania modelu i już je stosowała. Google również oświadczył, że raport nie odzwierciedla pełnego zakresu jego środków bezpieczeństwa. Meta odmówiła odpowiedzi, czy ma wewnętrzny plan powstrzymania, powołując się na istniejące ramy oceny ryzyka.

Główny naukowiec Guidelight i były badacz bezpieczeństwa OpenAI Steven Adler powiedział, że zaskoczyło go, jak mało firmy mówią o reagowaniu na poważny incydent utraty kontroli. Jego zdaniem bez przygotowanego wcześniej planu twórcy będą musieli określać działania już w trakcie sytuacji nadzwyczajnej.

Kalifornijska ustawa SB 53, która weszła w życie w tym roku, zobowiązuje dużych twórców zaawansowanych modeli do publikowania ram wykrywania i reagowania na krytyczne incydenty bezpieczeństwa. W Nowym Jorku w styczniu ma wejść w życie RAISE Act z podobnymi wymogami. W ubiegłym miesiącu w USA przedstawiono również ponadpartyjny projekt ustawy AI Kill Switch Act, który przewiduje obowiązek tworzenia i utrzymywania przez dużych twórców mechanizmów technicznych do wyłączania niekontrolowanych modeli.

Czytaj nas na Telegram i Sends