Newsom polecił przygotować propozycje awaryjnego wyłączenia AI — The Verge

Gubernator Kalifornii Gavin Newsom wydał rozporządzenie, w którym polecił przygotować propozycje zaostrzenia wymogów prawnych dotyczących bezpieczeństwa sztucznej inteligencji, w tym możliwego mechanizmu awaryjnego wyłączenia zaawansowanych modeli AI. Informuje o tym The Verge.

Rekomendacje za dwa miesiące

Rozporządzenie przewiduje zwołanie grupy ekspertów, która w ciągu dwóch miesięcy ma przedstawić rekomendacje dotyczące wzmocnienia norm bezpieczeństwa AI w ustawodawstwie stanowym. Newsom chce, aby specjaliści rozważyli możliwość zobowiązania firm AI do dopuszczania niezależnych grup weryfikacyjnych do regularnych audytów na miejscu.

Eksperci mają również ocenić opcje niezależnej weryfikacji raportów firm dotyczących przejrzystości i ocen ryzyka. Osobno proponuje się rozważenie wymogu dotyczącego mechanizmu awaryjnego wyłączenia modeli, którego skuteczność byłaby regularnie sprawdzana.

Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.

Krytyczne incydenty

Wśród możliwych nowych wymogów jest obowiązkowe zgłaszanie incydentów utraty kontroli nad systemami AI jako krytycznych zdarzeń związanych z bezpieczeństwem. Jako przykład publikacja podaje atak OpenAI na Hugging Face.

Ponadto rozporządzenie poleca organowi stanowemu przyspieszyć wdrażanie dwóch ustaw niedawno podpisanych przez Newsoma. Przewidują one mechanizm, w ramach którego niezależni weryfikatorzy będą oceniać bezpieczeństwo AI, a także utworzenie rejestru audytorów w tej dziedzinie.

Według publikacji w Kongresie USA po publikacji byłego badacza Anthropic Jacoba Coxona nasiliły się dyskusje nad projektami ustaw dotyczącymi AI. Ostrzegał on przed prawdopodobieństwem przekraczającym 10%, że AI „może zabić wszystkich ludzi” w ciągu dekady. Jednocześnie The Verge zaznacza, że przyjęcie merytorycznej ustawy federalnej w najbliższym czasie jest mało prawdopodobne z powodu przerwy w pracach Izby Reprezentantów do listopada oraz nadchodzących wyborów w połowie kadencji.

Czytaj nas na Telegram i Sends