Gubernator Kalifornii Newsom zlecił analizę wyłączników dla AI — Al Jazeera
Gubernator Kalifornii Gavin Newsom podpisał rozporządzenie przewidujące niezależną ocenę modeli sztucznej inteligencji oraz utworzenie komitetu ekspertów, który opracuje mechanizmy awaryjnego wyłączania agentów AI mogących wymknąć się spod kontroli i wyrządzić szkody. Jak informuje Al Jazeera, Newsom zamierza również rozszerzyć definicję incydentów związanych z bezpieczeństwem AI.
Powrót do wcześniej zawetowanych wymogów
W 2024 roku Newsom zawetował projekt ustawy SB 1047, przyjęty przez zgromadzenie stanowe. Wówczas gubernator oświadczył, że proponowane zasady mogą zaszkodzić perspektywom tej technologii. Projekt przewidywał szersze wymogi bezpieczeństwa dotyczące rozwoju zaawansowanych modeli AI, w tym mechanizmy ich zatrzymywania.
Po wecie Newsom poprosił autora inicjatywy, senatora stanowego Scotta Wienera, o przeredagowanie dokumentu z udziałem komitetu ekspertów. W październiku 2025 roku gubernator podpisał ustawę o zaawansowanej AI, która wymaga od dużych deweloperów ujawniania danych o określonych incydentach bezpieczeństwa. Należą do nich śmierć 50 lub więcej osób, cyberataki na dużą skalę lub kradzież środków.
Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.
Oceny ekspertów i dalsze kroki
Zastępczyni dyrektora Centrum Polityki AI i Technologii Cyfrowych Christabel Randolph zaznaczyła, że SB 1047 zawierał bardziej konkretną architekturę bezpieczeństwa. Jak powiedziała, rozporządzenie obejmuje mechanizmy wyłączania lub zatrzymywania, podczas gdy zawetowany projekt wymagał zabezpieczeń jeszcze przed rozpoczęciem szkolenia modeli.
Dyrektorka ds. badań w Distributed AI Research Institute, Alex Hanna, uważa, że rozporządzenie pokazuje uwagę Newsoma wobec zagrożeń związanych z AI, bez zamiaru wprowadzania radykalnych ograniczeń. Powiązała również ten krok z rosnącymi obawami amerykańskich wyborców dotyczącymi bezpieczeństwa AI, centrów danych i utraty miejsc pracy.
Newsom polecił Kalifornijskiemu Biuru Służb Ratunkowych przedstawić rekomendacje dotyczące regulacji AI do 15 listopada. Może również zwołać specjalną sesję legislatury stanowej, aby omówić ich wdrożenie przed końcem swojej kadencji.
