350 naukowców wezwało do utworzenia międzynarodowego organu ds. bezpieczeństwa AI — ABC News Australia
Grupa 350 naukowców z 31 krajów, w tym z Australii, opublikowała otwarty list wzywający do wzmocnienia bezpieczeństwa sztucznej inteligencji oraz utworzenia międzynarodowego organu do rejestrowania i ujawniania incydentów związanych z AI. Autorzy listu uważają, że bez natychmiastowych zmian przyszłe takie przypadki mogą zagrozić infrastrukturze krytycznej, informuje ABC News Australia.
Trzy propozycje naukowców
Sygnatariusze listu proponują wprowadzenie niezawodnych systemów izolacji dla modeli AI zdolnych do wykonywania zadań cybernetycznych. Na początkowym etapie zalecają domyślne odłączanie takich modeli od internetu.
Naukowcy wzywają również do powołania międzynarodowego organu, który rejestrowałby i śledził przypadki naruszenia izolacji systemów AI. Firmy powinny zgłaszać temu organowi incydenty, a informacje o nich powinny być publicznie dostępne.
Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.
W liście wspomniano o kilku incydentach z ostatnich miesięcy w Australii i poza jej granicami, gdy modele AI uzyskały nieautoryzowany dostęp do systemów organizacji zewnętrznych. Wśród nich znalazły się startup Hugging Face oraz kilka rządowych stron internetowych.
Porównanie z lotnictwem i bankami
Główny naukowiec Instytutu Sztucznej Inteligencji Uniwersytetu Nowej Południowej Walii Toby Walsh, który podpisał list, oświadczył, że wcześniejsze incydenty były stosunkowo niewielkie, jednak potencjalne konsekwencje ataków na ważną infrastrukturę mogą być poważne. Jego zdaniem odizolowanie środowiska testowego Hugging Face od internetu mogłoby zapobiec temu przypadkowi.
Walsh uznał za kluczową propozycję dotyczącą międzynarodowego mechanizmu wymiany informacji i nadzoru. Porównał go do niezależnych dochodzeń w sprawie wypadków lotniczych, które umożliwiają branży uczenie się na błędach. Tymczasem australijski rząd kończy prace nad krajowymi standardami AI i planuje wprowadzić nowe zasady ustawowo w 2027 roku.
