Sztuczna inteligencja sprawia, że groźby śmierci stają się coraz bardziej realistyczne — The New York Times

Sztuczna inteligencja otworzyła nową erę przemocy w Internecie. Australijska aktywistka Caitlin Roper padła ofiarą gróźb generowanych przez systemy AI, otrzymywała filmy i zdjęcia, na których przedstawiano ją w scenach śmierci i tortur. Takie deepfake’i wyglądają tak realistycznie, że nawet doświadczeni obrońcy praw człowieka mówią o głębokiej traumie psychicznej.

Źródło: The New York Times

Eksperci ostrzegają, że nowe narzędzia sztucznej inteligencji potrafią generować wiarygodne głosy i twarze w zaledwie kilka sekund. Technologia, która wcześniej wymagała setek próbek danych, dziś może naśladować dowolną osobę, zamieniając cybergroźby w potężną broń zastraszania. Programy takie jak Sora opracowana przez OpenAI pozwalają tworzyć sceny przemocy z wykorzystaniem zdjęć prawdziwych ludzi.

Pomimo zapewnień firm technologicznych o zwiększeniu poziomu bezpieczeństwa, kontrola nad wykorzystaniem AI pozostaje słaba. Platformy często ignorują zgłoszenia o nadużyciach, a ofiary, które próbują nagłośnić sprawę, narażają się na blokadę kont. Badacze określają to zjawisko jako nową formę przemocy cyfrowej, która wykracza poza granice ludzkiej wyobraźni.