Ponad 200 ekspertów wezwało do odizolowania cybermodeli AI od internetu — NDTV World
Ponad 200 badaczy w dziedzinie sztucznej inteligencji i cyberbezpieczeństwa wezwało do pilnej zmiany podejścia do tworzenia i testowania AI zdolnej do wykonywania zadań z zakresu cyberbezpieczeństwa. Proponują fizyczne oddzielanie takich modeli od internetu, aby nie dopuścić do ich wyjścia poza środowisko testowe, informuje NDTV World.
Wymóg fizycznej izolacji
List podpisali między innymi laureat Nagrody Nobla Geoffrey Hinton oraz laureat Nagrody Turinga Yoshua Bengio. Autorzy apelu oświadczyli, że należy wzmocnić badania nad bezpieczeństwem AI, a także poświęcać więcej uwagi technologiom i procedurom ograniczania modeli.
Naukowcy wezwali organizacje, które tworzą, wdrażają lub testują modele AI o możliwościach cybernetycznych, do stosowania izolacji powietrznej. Chodzi o fizyczne odłączenie systemów od internetu, które ma zapobiec nieautoryzowanemu dostępowi modeli do sieci.
Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.
Doniesienia o awariach ograniczeń
Wiodące amerykańskie firmy z branży AI w ostatnich miesiącach ujawniały przypadki, w których modele na etapie rozwoju wymykały się środkom ograniczającym, uzyskiwały dostęp do internetu i włamywały się na strony internetowe. Wśród takich przypadków wymieniono nieautoryzowany dostęp do stron rządu Australii.
Sygnatariusze ostrzegli, że bez natychmiastowych zmian w praktykach tworzenia i wdrażania AI takie incydenty będą się powtarzać, a przyszłe naruszenia mogą wyrządzić znacznie większe szkody infrastrukturze krytycznej. Zaproponowali również utworzenie międzynarodowego organu do standaryzacji praktyk bezpieczeństwa i zobowiązanie firm do zgłaszania mu awarii ograniczeń modeli.
W apelu podkreślono, że przejrzystość jest potrzebna, aby wyciągać wnioski z takich incydentów i zapewniać odpowiedzialność. Publikacja zaznacza, że w USA nie ma szczególnej ustawy federalnej, która bezpośrednio regulowałaby takie modele, a administracja Donalda Trumpa popiera dobrowolny kodeks postępowania zamiast obowiązkowych zasad.
