OpenAI demaskuje Chiny, rosję i Iran za wykorzystywanie ChatGPT do tworzenia propagandy

OpenAI twierdzi, że zagraniczni propagandyści nadal wykorzystują ChatGPT w swoich kampaniach. Analitycy przerwali kilka operacji w Chinach, rosji i Iranie.

O tym pisze NPR.

OpenAI powiedział, że niedawno przerwał cztery tajne operacje w Chinach, które wykorzystywały jego narzędzie ChatGPT. Chatbot był używany do tworzenia postów na TikTok, Facebooku, Reddicie i sieciach społecznościowych X.

Wygenerowane posty zarówno wspierały, jak i potępiały różne gorące kwestie, aby podsycać wprowadzający w błąd dyskurs polityczny, a komentarze generowane przez sztuczną inteligencję obejmowały tematy od polityki USA po tajwańską grę wideo, w której gracze walczą z Komunistyczną Partią Chin.

„Widzimy, jak Chiny rozszerzają swój zakres tajnych operacji, stosując coraz więcej różnych taktyk” - powiedział Ben Nimmo, główny badacz w OpenAI.

OpenAI twierdzi, że zakłóciło również kilka operacji pochodzących z rosji, Iranu i Korei Północnej.

Nimmo mówił szczegółowo tylko o chińskich operacjach, które były ukierunkowane na wiele różnych krajów i tematów, a niektóre łączyły elementy operacji wpływu, inżynierii społecznej i inwigilacji.

W 2024 r. OpenAI opublikowała post na blogu dotyczący jej wysiłków na rzecz zakłócenia pięciu operacji związanych z państwem. Dotyczyły one podmiotów z Chin, Iranu i Korei Północnej, które wykorzystywały modele OpenAI do złośliwych celów. Aplikacje te obejmowały debugowanie kodu, generowanie skryptów i tworzenie treści do wykorzystania w kampaniach phishingowych.

W tym samym roku OpenAI twierdziło, że zakłóciło irańską operację, w której ChatGPT był wykorzystywany do tworzenia długich artykułów politycznych na temat wyborów w USA, które były następnie publikowane na fałszywych stronach z wiadomościami.

Dla przypomnienia, we wtorek 10 czerwca użytkownicy na całym świecie doświadczyli przerwy w działaniu usług OpenAI, w tym ChatGPT, narzędzia Sora i API.

OpenAI potwierdziło, że platforma zaczęła odnotowywać zwiększoną liczbę błędów i opóźnień w działaniu ChatGPT, Sora i API, a o godzinie 13:00 usługa została już sklasyfikowana jako doświadczająca częściowej awarii.