OpenAI викрила Китай, росію та Іран у використанні ChatGPT для створення пропаганди

OpenAI заявила, що нещодавно перешкодила чотирьом таємним операціям Китаю, під час яких використовували її інструмент ChatGPT. Завдяки чат-боту там створювали публікації у соціальних мережах TikTok, Facebook, Reddit та X.

Згенеровані дописи як підтримували, так і засуджували різні гострі питання, щоб розпалити оманливий політичний дискурс, а створені ШІ коментарі стосувалися багатьох тем, від політики США до тайванської відеогри, в якій гравці борються з Комуністичною партією Китаю.

«Ми спостерігаємо, як Китай розширює спектр таємних операцій, використовуючи все більше різних тактик», — заявив Бен Німмо, головний дослідник OpenAI.

OpenAI стверджує, що також перешкодила кільком операціям, які походили з росії, Ірану та Північної Кореї.

Німмо детально розповів лише про китайські операції, які були спрямовані на багато різних країн і тем, а деякі поєднували елементи операцій впливу, соціальної інженерії та стеження.

У 2024 році OpenAI опублікувала у своєму блозі інформацію про зусилля з перешкоджання п’яти операціям, пов’язаним з державами. Тоді йшлося про гравців з Китаю, Ірану та Північної Кореї, які використовували моделі OpenAI зі зловмисною метою. Ці програми включали налагодження коду, генерацію скриптів і створення контенту для використання в фішингових кампаніях.

Того ж року в OpenAI заявили, що зірвали іранську операцію, під час якої ChatGPT задіяли для створення довгих політичних статей про вибори в США, які потім публікувалися на фейкових новинних сайтах.

Нагадаємо, у вівторок, 10 червня, користувачі по всьому світу зіткнулися з перебоями в роботі сервісів компанії OpenAI, зокрема ChatGPT, інструменту Sora та API.

У компанії OpenAI підтвердили, що платформа почала фіксувати підвищену кількість помилок і затримок у роботі ChatGPT, Sora і API, а о 13:00 сервіс уже класифікували як такий, що зазнає часткового збою.