Od fałszywego Bidena po cyfrowego Bolsonaro: jak sztuczna inteligencja staje się uczestnikiem wyborów

Jeszcze kilka lat temu deepfake'i w polityce wydawały się raczej straszakiem technologicznym: zmontowanym wideo, na którym kandydat mówi coś, czego nigdy nie powiedział, fałszywym zdjęciem lub podrobionym głosem. W 2024 roku zagrożenie to stało się rzeczywistością podczas wyborów prezydenckich w USA. 

A w 2026 roku polityka zrobiła kolejny krok naprzód – teraz sztuczna inteligencja potrafi nie tylko podrabiać kandydata, ale faktycznie zastępować go podczas kampanii wyborczej.

Pod koniec lipca był prezydent Brazylii Jair Bolsonaronieoczekiwanie „pojawił się” na starcie kampanii prezydenckiej swojego syna Flavio. Samego polityka tam nie było. Bolsonaro przebywa w areszcie domowym i ma ograniczoną możliwość publicznej komunikacji, jednak przed zwolennikami przemawiał jego cyfrowy awatar stworzony przez sztuczną inteligencję.

W przeciwieństwie do klasycznego deepfake'a, autorze nawet nie ukrywali użycia AI. Awatar poinformował widownię, że został stworzony przez sztuczną inteligencję, po czym wezwał zwolenników do poparcia Flavio Bolsonaro. Opocyzja zdążyła już zaskarżyć wykorzystanie takiego wideo w sądzie wyborczym.

UA.News opowiada, jak sztuczna inteligencja stopniowo przekształciła się z narzędzia do tworzenia politycznych deepfake'ów w pełnoprawnego uczestnika kampanii wyborczych oraz jak AI była już wykorzystywana do manipulacji podczas wyborów w USA w 2024 roku.

Bolsonaro nie ma na scenie, ale jego awatar prowadzi agitację

Jair Bolsonaro osobiście nie bierze udziału w wyborach prezydenckich w Brazylii. Jednak kapitał polityczny byłego prezydenta pozostaje ważnym aktywem w kampanii jego syna Flavio, który ubiega się o fotel prezydencki.

To właśnie w tym miejscu technologia otworzyła możliwość, która wcześniej po prostu nie istniała.

Podczas prezentacji kampanii 25 lipca na ekranie pojawił się cyfrowy Bolsonaro. Jego awatar AI oświadczył, że żadne więzienie nie zmusi zapoczątkowanego przez nich ruchu politycznego do milczenia, a następnie wezwał zwolenników do zaakceptowania jego syna jako następcę.

Problem ma charakter nie tylko technologiczny, ale i prawny. Bolsonaro ma zakaz publicznej komunikacji, jednak nie jest jasne, czy taki zakaz rozciąga się na stworzone przez kogoś innego cyfrowe odwzorowanie jego wizerunku.

Koalicja partii lewicowych i lewicowo-centrowychzwróciła się do sądu wyborczego. Twierdzi ona, że brazylijskie przepisy zakazują treści syntetycznych zdolnych do odtwarzania realnej osoby w celu wpływania na wolę wyborców.

Sztab Flavio Bolsonaro odrzuca te zarzuty. Ich argument jest prosty: widzowie nie byli próbowani oszukać, ponieważ powiedziano im wprost, że mają do czynienia z AI. Ponadto wideo, zdaniem sztabu Bolsonaro, nie jest klasycznym deepfake'iem.

Przewodniczący Najwyższego Sądu Wyborczego Brazylii Cássio Nunes Marques oświadczył, że samo użycie AI w kampanii jest dopuszczalne, a naruszeniem staje się wtedy, gdy technologia jest wykorzystywana do wyrządzania szkody. Sprawa ta musi zostać jeszcze oceniona przez sąd.

W ten sposób kampania polityczna w Brazylii faktycznie stała się jednym z pierwszych dużych testów na to, jak daleko można posunąć się w wykorzystaniu cyfrowej kopii prawdziwego polityka.

Ale sam problem pojawił się znacznie wcześniej.

„Tu Biden, dzwonię do Ciebie”: jak AI próbowało wpłynąć na głosowanie w USA

Na początku 2024 roku amerykańscy wyborcy otrzymali namacalny dowód na to, jak tania i dostępna stała się manipulacja polityczna za pomocą sztucznej inteligencji.

21 stycznia – zaledwie dwa dni przed prawyborami Partii Demokratycznej w New Hampshire – tysiące potencjalnych wyborców zaczęło otrzymywać automatyczne połączenia telefoniczne.

W słuchawce słyszeli głos ówczesnego prezydenta USA Joe Bidena.

„Biden” przekonywał demokratów, aby nie głosowali w prawyborach i „zachowali” swój głos na wybory prezydenckie w listopadzie.

Prawdziwy Joe Biden nigdy takiego nagrania nie rejestrował.

Jakustaliła Federalna Komisja Łączności USA (FCC), głos został wygenerowany przez sztuczną inteligencję. Organizatorem kampanii był konsultant polityczny Steve Kramer.

Skala operacji jest szczególnie wymowna. Z dokumentów FCC wynika, że tylko wieczorem 21 stycznia system zainicjował 9581 połączeń do potencjalnych wyborców w New Hampshire.

Oprócz samego głosu organizatoru użyli jeszcze jednego triku – caller ID spoofing. Na telefonach odbiorców wyświetlał się numer powiązany z osobą, która wcześniej kierowała Partią Demokratyczną w tym stanie i była zaangażowana w kampanię wsparcia Bidena.

Oznacza to, że schemat składał się z dwóch poziomów zaufania naraz: znajomego głosu prezydenta oraz numeru osoby z lokalnego środowiska demokratycznego.

Ale najbardziej zaskakujący okazał się koszt technologicznej części operacji.

Wedługmateriałów FCC, do stworzenia głosu wykorzystano serwis ElevenLabs. Osoba, która wykonała nagranie, otrzymała za tę pracę około 150 dolarów.

Faktycznie za kwotę niższą niż koszt budżetowego smartfona stało się możliwe podrobienie głosu prezydenta USA i puszczenie go do prawie dziesięciu tysięcy potencjalnych wyborców w przeddzień głosowania.

Później FCCnałożyła na Kramera grzywnę w wysokości 6 milionów dolarów za nielegalną kampanię robocalla oraz podszywanie się pod caller ID.

Po tym wydarzeniu amerykański regulator osobno potwierdził, że głosy generowane przez sztuczną inteligencję podlegają ograniczeniom prawnym dotyczącym sztucznych i wcześniej nagranych wiadomości głosowych.

Jednak wybory w 2024 roku pokazały, że problem nie ogranicza się do jednego fałszywego Bidena.

Trump, którego nigdy nie sfotografowano

Kolejny wymowny przykład pojawił się na samym początku amerykańskiej kampanii prezydenckiej.

W sieciach społecznościowych krążyły zdjęcia Donalda Trumpa z grupami Afroamerykanów. Na obrazkach uśmiechali się, obejmowali kandydata i fotografowali się razem z nim.

W rzeczywistości te spotkania nigdy się nie odbyły.

Obrazyzostały stworzone przez generator oparty na sztucznej inteligencji. Fotografie nie były bezpośrednio powiązane z oficjalną kampanią Trumpa, jednak część użytkowników rozpowszechniała je jako autentyczne zdjęcia.

W ten sposób tworzono wrażenie znacznie większego poparcia dla kandydata wśród Afroamerykanów, niż mogło to mieć miejsce w rzeczywistości.

Ten przypadek dobrze ilustruje inny problem politycznego AI.

Do manipulacji nie trzeba już zmuszać kandydata do mówienia czegokolwiek skandalicznego. Czasami wystarczy stworzyć rzeczywistość, która nigdy nie istniała.

Kandydat może rzekomo odwiedzić fabrykę, spotkać się z weteranami, przytulić rolnika, porozmawiać z wojskowymi lub znaleźć się wśród przedstawicieli określonej grupy etnicznej czy społecznej.

Jedno zdjęcie AI niekoniecznie zmieni wynik wyborów. Ale tysiące takich obrazów mogą stopniowo budować w umyśle wyborcy określony wizerunek kandydata.

I teraz można to robić na skalę niemal przemysłową.

Rosja i Iran również używały AI w amerykańskiej kampanii wyborczej

Jeszcze poważniejszym problemem stały się zewnętrzne kampanie wpływu.

We wrześniu 2024 roku amerykańskie wywiady poinformowały, że Rosja i Iran już wykorzystują generatywną sztuczną inteligencję do wzmocnienia operacji wymierzonych w amerykańskich wyborców.

Wedługszacunków Biura Dyrektora Wywiadu Narodowego USA, Rosja wygenerowała największą ilość treści AI związanych z wyborami w USA spośród głównych aktorów zagranicznych. Chodziło o teksty, obrazy, dźwięk i wideo.

Rosyjskie kampanie wykorzystywały te materiały do dyskredytacji poszczególnych polityków, promowania narracji konspiracyjnych oraz zaostrzania sporów społecznych, w szczególności wokół imigracji.

Iran, według danych amerykańskiego wywiadu, używał AI do tworzenia postów w mediach społecznościowych i pisania materiałów dla stron internetowych podszywających się pod serwisy informacyjne.

Chiny również stosowały sztuczną inteligencję w szerszych operacjach informacyjnych, choć wywiad USA nie dostrzegł wówczas konkretnej kampanii chińskiej wymierzonej bezpośrednio w wynik wyborów prezydenckich.

Odrębną historią była rosyjska operacja Doppelganger.

We wrześniu 2024 rokuDepartament Sprawiedliwości USA ogłosił przejęcie 32 domen internetowych, które były wykorzystywane w rosyjskiej kampanii tajnego wpływu.

Według amerykańskich władz struktury powiązane z Rosją tworzyły witryny imitujące znane amerykańskie media, korzystały z fałszywych kont, reklam, influencerów oraz treści stworzonych przy użyciu sztucznej inteligencji.

Jednym z celów tego systemu było osłabienie międzynarodowego wsparcia dla Ukrainy, nasilenie wewnętrznych podziałów w krajach zachodnich oraz wywieranie wpływu na amerykańską publiczność.

W przeddzień samych wyborów amerykańskie służby specjalne wprost oskarżały Rosję o produkcję fałszywych wideo politycznych.

W szczególnościBiuro Dyrektora Wywiadu Narodowego USA informowało o filmie rzekomo pokazującym nielegalne głosowanie obywateli Haiti w stanie Georgia. Amerykańskie władze nazwały go rosyjską dezinformacją.

W tym przypadku technologia nie stworzyła nowego rodzaju propagnady. Sprawiła ona, że stara propaganda stała się tańsza, szybsza i bardziej masowa.

Od deepfake'a do cyfrowego kandydata

Właśnie dlatego historia Bolsonaro różni się od większości przypadków z 2024 roku.

Wtedy główne zagrożenie wyglądało tak: ktoś używa AI, aby przedstawić fałszywą informację jako autentyczne słowa polityka.

Teraz pojawia się inny model: cyfrowy wizerunek samego polityka staje się legalnym lub półlegalnym uczestnikiem kampanii.

I to jest znacznie trudniejszy i poważniejszy problem.

Jeśli deepfake próbuje oszukać wyborcę, to awatar AI może uczciwie zakomunikować: „Zostałem stworzony przez sztuczną inteligencję”.

A potem – prowadzić agitację. Dla technologii otwiera to ogromną przestrzeń.

Policiuk może nagrać kilka godzin swojego głosu i wideo, a model będzie mógł generować praktycznie nieograniczoną liczbę wystąpień.

Jeden polityk fizycznie może przebywać tylko w jednym mieście. Jego cyfrowa kopia – jednocześnie w setkach.

Rano może przemawiać do rolników jednego regionu, po południu do przedsiębiorców innego, wieczorem do studentów, rozmawiając z każdą grupą docelową na te tematy, które interesują ją najbardziej.

Kolejnym krokiem jest interaktywność. Zamiast wcześniej nagranego klipu wyborca może zyskać możliwość rozmowy z kandydatem AI.

Technicznie nie trzeba do tego czekać na pojawienie się jakiejś radykalnie nowej technologii. Modele głosowe, generowanie wideo, duże modele językowe i cyfrowe awatary już istnieją niezależnie od siebie. Zostaje tylko połączyć je ze sobą.

A co, jeśli kandydat AI powie coś nielegalnego?

To właśnie tutaj zaczyna się terytorium prawne, na które większość ustaw wyborczych po prostu nie była przygotowana.

Załóżmy, że sztab tworzy oficjalnego awatara AI kandydata. Model przeprowadza setki tysięcy osobistych rozmów z wyborcami.

Podczas jednej z nich AI obiecuje konkretnej osobie pieniądze publiczne za głos. Albo formułuje zniesławiające oskarżenie pod adresem konkurenta. Lub wyraża pogląd sprzeczny z oficjalnym programem kandydata.

Kto to powiedział? Kandydat? Sztab? Twórca modelu? Firma dostarczająca technologię? Czy to po prostu „błąd sztucznej inteligencji”? Dzisiaj nie ma jasnej uniwersalnej odpowiedzi na te pytania.

Nawet Stany Zjednoczone podczas kampanii w 2024 roku regulowały polityczne deepfake'i głównie na poziomie poszczególnych stanów.

Wedługdanych Krajowej Konferencji Legislatur Stanowych USA (NCSL), w 2024 roku szereg stanów przyjął przepisy dotyczące wykorzystania sztucznej inteligencji i treści syntetycznych w wyborach.

Kalifornia, Alabama, Kolorado, Floryda, New Hampshire, Oregon, Utah, Wisconsin i inne stany wprowadziły wymogi oznaczania syntetycznych materiałów politycznych lub ograniczyły rozpowszechnianie wprowadzających w błąd deepfake'ów w przeddzień wyborów.

Ale nawet idealne oznaczanie rozwiązuje jedynie problem oszustwa.

Nie odpowiada ono na inne pytanie: co zrobić, gdy polityk sam wyraził zgodę na stworzenie własnej cyfrowej kopii?

Policiuk może przestać być człowiekiem „w pojedynczym egzemplarzu”

To może stać się najważniejszą zmianą nadchodzących cykli wyborczych. Przez stulecia polityk miał jedno naturalne ograniczenie – swój własny czas. 

Nie mógł prowadzić dziesięciu wieców naraz. Nie mógł osobiście porozmawiać z milionem wyborców. Nie mógł dać osobistej odpowiedzi każdej osobie. Sztuczna inteligencja usuwa to ograniczenie.

Cyfrowy kandydat potencjalnie może prowadzić miliony równoległych dialogów. Przy czym rozmawiać z każdym wyborcą nieco inaczej.

Dla osoby cierpiącej z powodu inflacji będzie mówił o cenach. Dla przedsiębiorcy – o podatkach. Dla studenta – o edukacji. Dla wojskowego – o obronności.

A jeśli dodać do tego dane o wieku, miejscu zamieszkania, zainteresowaniach i zachowaniu użytkownika w internecie, reklama polityczna może przekształcić się w niemal spersonalizowaną agitację.

Zamiast jednego programu wyborczego dla 30 milionów obywateli, można mieć warunkowo 30 milionów nieco innych wersji jednego programu dla 30 milionów ludzi.

A monitorowanie takiego systemu przez dziennikarzy, komisje wyborcze i opozycję będzie znacznie trudniejsze niż kontrolowanie reklamy telewizyjnej czy przemówienia na wiecu.

Największe niebezpieczeństwo – być może nawet nie w tym, że uwierzymy w fake

Istnieje jeszcze jeden efekt, który może okazać się groźniejszy niż same deepfake'i.

Jeśli fałszywych zdjęć, głosów i wideo robi się zbyt dużo, społeczeństwo stopniowo przestaje ufać jakimkolwiek dowodom cyfrowym.

To tworzy paradoks. Kiedyś polityk obawiał się, że ktoś sfałszuje jego wideo. Teraz polityk może wykorzystać samo istnienie deepfake'ów jako tarczę ochronną, jeśli pojawi się prawdziwy kompromat.

Nieprzyjemne nagranie audio? „To AI”. Skandaliczne wideo? „Deepfake”. Zapis rozmowy? „Sklonowany głos”.

W badaniach nad manipulacją informacyjną zjawisko to nazywa się liar's dividend – swoistą „dywidendą kłamcy”. Im bardziej społeczeństwo zdaje sobie sprawę z możliwości cyfrowego fałszerstwa, tym łatwiej człowiekowi zaprzeczyć nawet autentycznym dowodom.

Czytaj nas na Telegram i Sends