Eksperci z USA i Chin zaproponowali ograniczenia dla wojskowej AI — Jerusalem Post
Eksperci ze Stanów Zjednoczonych i Chin wezwali Waszyngton i Pekin do przygotowania się na incydenty z udziałem autonomicznych systemów sztucznej inteligencji. Takie systemy mogą ingerować w sieci dowodzenia nuklearnego lub prowadzić wojskowe operacje cybernetyczne, pozostawiając rządom zaledwie kilka minut na ustalenie, czy działania te były przypadkowe, nieautoryzowane czy nakazane przez drugą stronę — informuje The Jerusalem Post.
Rekomendacje przygotowali Melanie Sisson, starsza badaczka Brookings Institution, oraz Tianjiao Jiang, adiunkt na Uniwersytecie Fudan. Uczestniczą oni w dialogu USA-Chiny na temat AI i bezpieczeństwa narodowego, prowadzonym od 2019 roku przez Brookings Institution oraz Centrum Bezpieczeństwa Międzynarodowego i Strategii Uniwersytetu Tsinghua.
Ludzka kontrola nad cyberatakami
Sisson zaproponowała pozostawienie ludziom wyłącznego prawa do inicjowania cyberataków z użyciem AI przeciwko systemom nuklearnego dowodzenia, kontroli i łączności innego kraju lub jego strategicznie ważnej infrastrukturze. Według oceny ekspertów autonomiczny system może ulec awarii, wyjść poza instrukcje lub zostać skompromitowany, a strona dotknięta atakiem może nie od razu ustalić jego przyczynę.
Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.
Jiang zaproponował ustanowienie jasnych ograniczeń, które nie pozwalałyby AI samodzielnie podejmować decyzji o użyciu broni jądrowej ani autonomicznie atakować systemów dowodzenia nuklearnego. Opowiedział się również za ochroną infrastruktury krytycznej, w tym energetyki, sektora finansowego i ochrony zdrowia, oraz za wspólnym zdefiniowaniem pojęcia „znaczącej ludzkiej kontroli”.
Gorąca linia dla incydentów z udziałem AI
Jiang zaproponował także utworzenie odrębnej wojskowej gorącej linii między USA a Chinami na potrzeby incydentów z udziałem AI. Ostrzegł, że zautomatyzowana wymiana działań cybernetycznych może rozwijać się zbyt szybko, by człowiek mógł interweniować: system obronny jednego kraju może zareagować na podejrzaną aktywność, a druga strona może uznać tę reakcję za atak i odpowiedzieć, zanim okoliczności zostaną wyjaśnione.
Żaden z rządów publicznie nie poparł propozycji Brookings Institution i Uniwersytetu Tsinghua. Jednocześnie ambasador Chin ds. rozbrojenia Shen Jian oświadczył w czerwcu na posiedzeniu ONZ w Genewie, że wojskowa AI może wpływać na stabilność strategiczną oraz zwiększać ryzyko błędnych kalkulacji i eskalacji konfliktów.
Czytaj nas na Telegram i Sends
