W Kongresie USA ostrzeżono przed kontrolą nad wojskową AI — Defense News
W Waszyngtonie w Stanach Zjednoczonych uczestnicy przesłuchania w Kongresie oświadczyli, że systemy sztucznej inteligencji mogą przyspieszać identyfikację celów i rekomendacje dotyczące uderzeń do tego stopnia, że człowiek nie będzie miał wystarczająco czasu na ich sprawdzenie lub interwencję. Poinformował o tym Defense News.
Podczas przesłuchania Komisji Praw Człowieka Toma Lantosa, poświęconego skutkom wykorzystywania AI w sferze wojskowej, badaczka zarządzania AI Anna Mysyshyn podkreśliła, że formalne zatwierdzenie decyzji przez operatora samo w sobie nie świadczy o zachowaniu kontroli. Według niej w Ukrainie AI może skrócić proces podejmowania decyzji z godzin do minut.
Czas na ludzką decyzję
Dyrektywa Departamentu Obrony USA z 2023 roku dotycząca autonomicznych systemów uzbrojenia wymaga, aby dowódcy i operatorzy mogli stosować odpowiedni poziom ludzkiego osądu w kwestii użycia siły. Jednocześnie uczestnicy przesłuchania postawili pytanie, czy taki osąd pozostaje znaczący, gdy AI wpływa na określanie celów szybciej, niż człowiek jest w stanie zweryfikować rekomendację.
Krajowa dyrektorka ds. relacji rządowych i rzecznictwa w Amnesty International USA Amanda Klasing ostrzegła, że AI może przyspieszać wojskowy łańcuch podejmowania decyzji i utrudniać ustalenie, czy przed uderzeniem odbyła się znacząca ocena człowieka. Były oficer wojskowy i badacz etyki wojskowej Joseph Chapa wezwał do oceny nie tylko stopnia autonomii systemów, lecz także tego, czy opierają się one na wnioskach statystycznych, jak zachowują się w przypadku awarii oraz czy można później zweryfikować podstawy ich rekomendacji.
Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.
Odpowiedzialność za szkody dla ludności cywilnej
Uczestnicy przesłuchania poruszyli również kwestię odpowiedzialności w przypadkach, gdy decyzje z udziałem AI prowadzą do szkód dla ludności cywilnej. Przegląd generalnego inspektora Departamentu Obrony USA, opublikowany w maju, wykazał problemy z wdrażaniem mechanizmu łagodzenia szkód cywilnych i reagowania na nie. Należały do nich utrata lub przeniesienie pracowników, zaprzestanie finansowania platformy zarządzania danymi oraz zakończenie posiedzeń wyższego komitetu sterującego.
Klasing zaproponowała uwzględnianie danych o roli AI w corocznych raportach Pentagonu dotyczących ofiar wśród ludności cywilnej. Starszy pracownik naukowy Carnegie Endowment for International Peace Steve Feldstein oświadczył, że Pentagon powinien zbierać dane o operacjach i przeprowadzać kontrole po ich zakończeniu, aby ustalać dokładność identyfikacji celów przez systemy AI oraz możliwy związek ich błędów z ofiarami cywilnymi.
Jednocześnie Feldstein ostrzegł przed przypisywaniem całej odpowiedzialności technologii. Według niego AI może pomagać w weryfikacji danych wywiadowczych, wykrywaniu zmian na zdjęciach oraz ustalaniu priorytetów ochrony przed dronami i rakietami balistycznymi. Mysyshyn zaznaczyła, że AI nie naprawi błędnych założeń, które ludzie wprowadzili do zasad działania systemu.
Czytaj nas na Telegram i Sends
