Sztuczna inteligencja jest już przedmiotem dyskusji w Radzie Bezpieczeństwa ONZ: dlaczego sztuczna inteligencja staje się nowym czynnikiem wpływającym na bezpieczeństwo światowe

Jeszcze kilka lat temu główne kontrowersje związane ze sztuczną inteligencją dotyczyły pracy, edukacji i automatyzacji. Ludzie dyskutowali o tym, które zawody mogą zniknąć, czy ChatGPT zastąpi część pracowników biurowych oraz jak szybko systemy generatywne wejdą w codzienne życie.

Obecnie dyskusja wykracza daleko poza ramy branży technologicznej. Sztuczna inteligencja coraz częściej pojawia się w kontekście pojęć tradycyjnie związanych z bezpieczeństwem międzynarodowym: wojny, cyberataków, dezinformacji, strategicznego powstrzymywania oraz globalnej rywalizacji między państwami.

23 września Rada Bezpieczeństwa ONZ zorganizowała specjalne posiedzenie poświęcone sztucznej inteligencji i bezpieczeństwu międzynarodowemu. Sam fakt, że temat ten znalazł się w porządku obrad organu, którego głównym zadaniem jest utrzymywanie pokoju międzynarodowego, dobrze pokazuje, jak bardzo zmieniło się podejście do tej technologii.

Do dyskusji zaproszono nie tylko dyplomatów. Wśród zaproszonych gości znalazł się jeden z najbardziej znanych badaczy uczenia maszynowego, Joshua Bengio, oraz szefowie wiodących firm tworzących nowoczesne systemy sztucznej inteligencji. Oznacza to, że kwestie dotyczące przyszłości sztucznej inteligencji są już omawiane na tej samej płaszczyźnie, co kwestie wojen, konfliktów i zagrożeń strategicznych.

UA.News wyjaśnia, dlaczego sztuczna inteligencja przestaje być postrzegana wyłącznie jako kolejna rewolucja technologiczna, w jaki sposób zmienia ona wyobrażenia o wojnie i bezpieczeństwie oraz dlaczego świat musi tworzyć dla niej nowe zasady praktycznie od zera.

Rada Bezpieczeństwa ONZ nie traktuje już sztucznej inteligencji jako eksperymentu technologicznego

Sztuczna inteligencja pojawiła się w porządku obrad Rady Bezpieczeństwa nie po raz pierwszy.

Pierwsze oficjalne posiedzenie Rady Bezpieczeństwa ONZ poświęcone sztucznej inteligencji odbyło się 18 lipca 2023 roku. Już wtedy sekretarz generalny ONZ António Guterres podkreślał, że rozwój tej technologii może przynieść ludzkości znaczne korzyści, ale jednocześnie stworzyć zupełnie nowe zagrożenia.

W swoim oficjalnym oświadczeniu przed Radą Bezpieczeństwa mówił o możliwości wykorzystania sztucznej inteligencji do cyberataków, rozpowszechniania dezinformacji, działalności przestępczej oraz operacji wojskowych.

Wówczas wiele z tych scenariuszy postrzegano jeszcze jako ostrzeżenia dotyczące przyszłości. W kolejnych latach możliwości modeli znacznie wzrosły. Lepiej radzą sobie z kodem, analizują obrazy i filmy, przetwarzają ogromne zbiory informacji i potrafią wykonywać całe sekwencje zadań.

Właśnie dlatego dyskusja stopniowo uległa zmianie. Nie chodzi już tylko o to, do czego sztuczna inteligencja będzie kiedyś zdolna. Znacznie ważniejsze jest zrozumienie, jak wykorzystać możliwości, które już istnieją, oraz gdzie zaczynają one stwarzać zagrożenie nie dla pojedynczego użytkownika, ale dla całego państwa.

Ta sama sztuczna inteligencja może służyć zarówno biznesowi, jak i armii

Jedną z głównych cech sztucznej inteligencji jest to, że niezwykle trudno jest ją jednoznacznie podzielić na cywilną i wojskową.

Rakieta czy czołg mają oczywiste przeznaczenie. Z oprogramowaniem jest zupełnie inaczej. Ten sam model może pomagać przedsiębiorcy w przygotowaniu prezentacji, programiście w pisaniu kodu, studentowi w zgłębianiu skomplikowanego tematu lub naukowcowi w analizowaniu danych. Jednak te same możliwości można wykorzystać do pracy z informacjami wywiadowczymi, logistyką wojskową czy zdjęciami satelitarnymi.

Właśnie dlatego sztuczna inteligencja staje się klasyczną technologią podwójnego zastosowania. Nie można jej po prostu zakazać, tak jak niektórych rodzajów uzbrojenia, ponieważ przeważająca część jej możliwości ma całkowicie pokojowe zastosowanie. Jednocześnie im potężniejsze stają się modele, tym szerszy staje się zakres zadań, które można wykorzystać również w obronności.

Stwarza to poważny problem dla organów regulacyjnych. Ograniczenia powinny zmniejszać ryzyko, ale jednocześnie nie blokować ogromnej liczby użytecznych zastosowań cywilnych.

Sztuczna inteligencja zmienia oblicze wojny nie tylko poprzez broń autonomiczną

Najbardziej oczywistym przykładem wojskowej sztucznej inteligencji jest autonomiczny dron, który samodzielnie namierza cel i atakuje go bez polecenia operatora. Jednak rzeczywisty wpływ tej technologii jest znacznie szerszy.

Współczesna wojna generuje codziennie kolosalne ilości informacji: nagrania z dronów, zdjęcia satelitarne, dane radarowe, przechwycone komunikaty radiowe, współrzędne, wiadomości z otwartych źródeł oraz informacje o przemieszczaniu się sprzętu wojskowego.

Człowiek nie jest w stanie szybko przejrzeć tego wszystkiego ręcznie. Algorytm może. Sztuczna inteligencja potrafi wyszukiwać potrzebne obiekty na setkach obrazów, porównywać dane z różnych okresów, śledzić zmiany, rozpoznawać prawidłowości i pomagać wojskowym w szybszym uzyskaniu ogólnego obrazu sytuacji.

Dlatego jedna z głównych zmian dotyczy nie samej broni, ale szybkości. Jeśli wcześniej między otrzymaniem informacji a podjęciem decyzji mijały godziny, współczesne systemy mogą potencjalnie skrócić ten czas do minut. A strona, która przetwarza informacje szybciej niż przeciwnik, zyskuje znaczną przewagę.

Właśnie to może stopniowo zapoczątkować nowy wyścig – nie tylko o liczbę czołgów, rakiet czy dronów, ale o szybkość przetwarzania danych i podejmowania decyzji.

Jeśli sztuczna inteligencja popełni błąd, pojawia się pytanie: kto ponosi odpowiedzialność

Istnieje problem, który staje się szczególnie złożony w sferze wojskowej — odpowiedzialność. Tradycyjna struktura dowodzenia jest stosunkowo przejrzysta. Jest osoba, która wydała rozkaz, jest ta, która go wykonała, i można ustalić, na jakim szczeblu podjęto konkretną decyzję.

W przypadku algorytmu wszystko jest bardziej skomplikowane. Jeśli system błędnie zidentyfikował obiekt, błędnie sklasyfikował zagrożenie lub wydał błędną rekomendację, kto ponosi odpowiedzialność?

Twórca modelu? Firma, która go dostarczyła? Dowódca, który otrzymał zalecenie? Operator, który nacisnął przycisk? A może państwo, które zezwoliło na stosowanie takiego systemu?

Problem niewiarygodności modeli występuje nawet w zwykłych chatbotach. Przyczyny, dla których duże modele językowe nadal generują przekonujące, ale błędne odpowiedzi, pozostają jednym z wyzwań dla twórców.

W usługach cywilnych błąd może oznaczać błędną odpowiedź lub straty finansowe. W systemie wojskowym konsekwencje mogą być nieporównywalnie poważniejsze. Właśnie dlatego problem sztucznej inteligencji w dziedzinie bezpieczeństwa dotyczy nie tylko tego, do czego technologia ta jest zdolna, ale także tego, jak określić odpowiedzialność za jej decyzje i błędy.

Dezinformację można obecnie wytwarzać niemal na skalę przemysłową

Osobnym zagrożeniem, na które Guterres zwrócił uwagę już podczas pierwszego posiedzenia Rady Bezpieczeństwa poświęconego sztucznej inteligencji, są manipulacje informacyjne.

Systemy generatywne radykalnie obniżyły koszty tworzenia tekstów, obrazów, głosów i filmów. Wcześniej duża kampania informacyjna wymagała zespołu autorów, projektantów, tłumaczy, montażystów oraz administratorów setek kont. Obecnie znaczną część tej pracy można zautomatyzować.

I nie chodzi tu wyłącznie o deepfake’i. Sztuczna inteligencja pozwala tworzyć tysiące wariantów tej samej wiadomości, tłumaczyć je na dziesiątki języków, zmieniać ton i dostosowywać materiały do różnych odbiorców.

W rezultacie operacja informacyjna może być skalowana mniej więcej tak samo jak oprogramowanie. Staje się to szczególnie niebezpieczne w czasie kryzysów.

Jeśli w momencie gwałtownego zaostrzenia konfliktu między państwami pojawi się realistyczne fałszywe nagranie wideo przedstawiające prezydenta, ministra obrony lub dowódcę wojskowego, nawet szybkie zaprzeczenie niekoniecznie powstrzyma skutki.

W ciągu kilku minut informacja ta może zostać podchwycona przez sieci społecznościowe, media, rynki finansowe i inne państwa. Fałszywą informację można usunąć lub zdementować. Jednak decyzje podjęte pod jej wpływem znacznie trudniej jest cofnąć.

Cyberataki osiągają nowy poziom automatyzacji

Kolejnym obszarem, w którym sztuczna inteligencja może mieć bezpośredni wpływ na bezpieczeństwo międzynarodowe, jest cyberprzestrzeń.

Podczas pierwszej dyskusji Rady Bezpieczeństwa osobno zwrócono uwagę na zagrożenia dla systemów cyfrowych i infrastruktury krytycznej. Sztuczna inteligencja ma tu dwojaki wpływ.

Dla obrońców może analizować ruch sieciowy, wykrywać anomalie, identyfikować podejrzaną aktywność i pomagać w usuwaniu luk w zabezpieczeniach. Dla atakujących te same narzędzia mogą ułatwiać przygotowywanie ataków.

Szczególnie ważne staje się rozwijanie agentów AI — systemów, które są w stanie nie tylko odpowiadać na pojedyncze zapytania, ale także samodzielnie wykonywać sekwencje działań. W przyszłości takie programy mogą zautomatyzować część procesu wyszukiwania słabych punktów, testować różne metody włamania oraz dostosowywać swoje działania do wyników poprzednich prób.

Nie oznacza to, że każda osoba automatycznie stanie się wysokiej klasy cyberprzestępcą. Jednak sztuczna inteligencja może zmniejszyć ilość wiedzy, zasobów i czasu niezbędnych do wykonania skomplikowanych zadań technicznych.

Dla współczesnych państw jest to szczególnie ważne, ponieważ energetyka, bankowość, łączność, transport, szpitale i administracja publiczna w coraz większym stopniu zależą od systemów cyfrowych.

Rozwój sztucznej inteligencji stopniowo przeradza się w kolejny wyścig między państwami

Nawet jeśli państwa dostrzegają zagrożenia związane z nowymi modelami, nie oznacza to, że są gotowe dobrowolnie spowolnić ich rozwój. Powód jest prosty: technologiczne opóźnienie również może stanowić zagrożenie.

Jeśli jedno państwo znacznie ograniczy swoje najpotężniejsze systemy sztucznej inteligencji, musi mieć pewność, że konkurenci postąpią tak samo. W przeciwnym razie ostrożność może przerodzić się w strategiczną wadę.

Dlatego wokół sztucznej inteligencji stopniowo wyłania się logika znana z innych wyścigów technologicznych. Najpotężniejsze modele wymagają ogromnych centrów danych, najnowocześniejszych półprzewodników, taniej energii elektrycznej, kapitału oraz dużej liczby wysoko wykwalifikowanych inżynierów.

Z tego powodu konkurencja w dziedzinie sztucznej inteligencji automatycznie krzyżuje się z walką o produkcję chipów, zasoby energetyczne i łańcuchy technologiczne. Właśnie dlatego przywództwo w dziedzinie sztucznej inteligencji coraz częściej może być postrzegane przez państwa nie tylko jako sukces komercyjny, ale jako przewaga strategiczna.

Sztuczna inteligencja różni się od tradycyjnej broni również tym, że tworzą ją prywatne firmy

Istnieje jeszcze jedna cecha, która sprawia, że regulacja sztucznej inteligencji jest niezwykle złożona. Broń jądrowa, rakiety strategiczne czy lotnictwo wojskowe są w przeważającej mierze kontrolowane przez państwa.

W przypadku sztucznej inteligencji znaczna część postępu technologicznego ma miejsce w sektorze prywatnym. To właśnie firmy budują największe centra danych, trenują nowe modele, angażują najlepszych badaczy i decydują, kiedy wprowadzać na rynek nowe systemy.

Oznacza to, że technologia, która potencjalnie może wpływać na bezpieczeństwo globalne, nie podlega tak bezpośredniej kontroli państwowej, jak tradycyjne uzbrojenie strategiczne.

W związku z tym przed rządami pojawiają się pytania, które wcześniej praktycznie nie istniały. Kto powinien sprawdzać najpotężniejsze modele przed ich uruchomieniem? Czy firmy powinny informować państwa o niebezpiecznych możliwościach systemów? Czy można ograniczać publiczny dostęp do poszczególnych funkcji? Co zrobić, jeśli model został stworzony w jednym kraju, infrastruktura obliczeniowa znajduje się w innym, a korzystają z niego użytkownicy na całym świecie?

Zwykłe przepisy krajowe mogą okazać się niewystarczające dla takiego rynku.

Świat próbuje stworzyć zasady dla technologii, która zmienia się szybciej niż dyplomacja

Właśnie tutaj pojawia się pewna analogia do ery nuklearnej. Bezpośrednie porównywanie sztucznej inteligencji z bronią jądrową jest niepoprawne. Sztuczna inteligencja to uniwersalna technologia, która może być wykorzystywana w medycynie, edukacji, programowaniu, nauce i biznesie.

Jednak po pojawieniu się broni jądrowej system międzynarodowy również musiał stworzyć zupełnie nowe mechanizmy kontroli: traktaty, inspekcje, zasady nierozprzestrzeniania oraz kanały łączności awaryjnej.

W przypadku sztucznej inteligencji proces ten już się rozpoczął. We wrześniu 2024 roku państwa członkowskie ONZ przyjęły Globalny traktat cyfrowy, który przewiduje międzynarodową współpracę w zakresie zarządzania sztuczną inteligencją.

W 2025 roku Zgromadzenie Ogólne określiło również zasady funkcjonowania Niezależnego Międzynarodowego Panelu Naukowego ds. Sztucznej Inteligencji oraz Globalnego Dialogu na temat Zarządzania Sztuczną Inteligencją.

Jednak w tym zakresie system międzynarodowy napotyka fundamentalny problem. Dyplomacja działa w perspektywie lat. Cykle technologiczne – w perspektywie miesięcy. Zanim państwa uzgodnią treść nowego dokumentu, przemysł może wypuścić na rynek kilka generacji modeli o zupełnie innych możliwościach.

Dlatego przyszłe regulacje prawdopodobnie będą musiały ustanawiać nie tylko zasady dotyczące konkretnych technologii, ale także szersze zasady, które pozostaną aktualne nawet po pojawieniu się nowych systemów.

Głównym przedmiotem sporu nie będzie to, na ile inteligentna stanie się sztuczna inteligencja

Na tym tle pytanie, czy maszyna będzie kiedyś „mądrzejsza od człowieka”, stopniowo odchodzi od czysto praktycznej dyskusji. Dla bezpieczeństwa międzynarodowego znacznie ważniejsze jest coś innego: jakie miejsce zajmie sztuczna inteligencja w systemach o krytycznym znaczeniu.

W niektórych przypadkach algorytm pozostanie zwykłym narzędziem. W innych stanie się asystentem, który proponuje kilka wariantów rozwiązania. A gdzie indziej technologia może uzyskać tak dużą autonomię, że udział człowieka stanie się minimalny.

Właśnie granice takiej autonomii staną się prawdopodobnie jednym z głównych przedmiotów międzynarodowych sporów. Państwa będą musiały określić, gdzie wykorzystanie sztucznej inteligencji pozostaje zwykłą automatyzacją, a gdzie już stwarza niedopuszczalne ryzyko.

I właśnie dlatego osobne posiedzenie Rady Bezpieczeństwa ONZ poświęcone sztucznej inteligencji wydaje się uzasadnione. Sztuczna inteligencja nie dotyczy już wyłącznie firm technologicznych, programistów czy użytkowników chatbotów. Stopniowo staje się częścią konkurencji gospodarczej, obronności, cyberbezpieczeństwa, polityki informacyjnej i stosunków międzynarodowych.

Dlatego w najbliższych latach głównym pytaniem może stać się nie to, jak potężne będą nowe modele.

Ale to, czy państwa zdążą uzgodnić zasady ich wykorzystania, zanim systemy te staną się na tyle powszechne, że ustalenie granic będzie już znacznie trudniejsze.