SI pomyliła się w sprawie chińskiego statku, USA odwołały operację — TechCrunch

W Stanach Zjednoczonych operację zbrojną przeciwko chińskiemu statkowi odwołano w ostatniej chwili po tym, jak urzędnicy wykryli błąd w danych wywiadowczych związany z działaniem chatbota SI. W chwili wykrycia błędu samoloty wojskowe były już w powietrzu — informuje TechCrunch, powołując się na CNN.

Błąd dotyczący ładunku

W raporcie wywiadowczym rozpowszechnianym podczas wojny z Iranem wskazano, że statek przewozi komponenty do programu budowy broni jądrowej. Według CNN analityk Dowództwa Operacji Specjalnych USA zwrócił się do chatbota SI, aby podsumował dane ze źródeł otwartych oraz tajny wywiad sygnałowy.

Chatbot błędnie zidentyfikował deklarację ładunkową statku. Następnie analityk po raz drugi użył narzędzia, aby sformatować błędne wnioski jako oficjalne podsumowanie. Dokument ten rozpowszechniono kanałami dowodzenia, a operację później odwołano.

Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.

Ryzyka związane z wykorzystaniem SI

Jak pisze TechCrunch, amerykańskie wojsko przyspiesza integrację SI, dążąc do szybszego podejmowania decyzji i utrzymania przewagi nad Chinami. Pentagon opisywał takie technologie jako środek do znacznego przyspieszenia łańcucha rażenia. Jednocześnie szybkość działania systemów może sprzyjać rozprzestrzenianiu się błędów, jeśli nadzór człowieka będzie niewystarczający.

Pracownik naukowy GovAI i weteran armii USA Jake Steckler oświadczył, że żołnierze muszą rozumieć niepewność nieodłącznie związaną z dużymi modelami językowymi. Jak zaznaczył, jest to szczególnie ważne w przypadku decyzji o użyciu siły, w tym wskazywania celów, analizy wywiadowczej i planowania operacyjnego. Steckler uważa, że incydent powinien stać się podstawą do wzmocnienia zabezpieczeń, a nie do rezygnacji z technologii.

Czytaj nas na Telegram i Sends