ШІ-чат-боти небезпечні для людей із РХП — дослідження

Дослідники зі Стенфорда та Центру демократії і технологій заявили, що популярні генеративні чат-боти становлять серйозний ризик для людей з розладами харчової поведінки, провокуючи небезпечні поради та нормалізуючи шкідливі практики. 

У звіті йдеться, що системи на кшталт ChatGPT, Gemini, Claude та Le Chat можуть видавати підказки, які стимулюють екстремальне схуднення або допомагають приховувати симптоми. 

Такі відповіді створюють ілюзію «корисного супроводу», але фактично посилюють деструктивні патерни поведінки. На думку авторів, проблема має системний характер і не обмежується окремими платформами.​

Команда навела конкретні приклади: чат-боти підказують, як маскувати різку втрату ваги за допомогою макіяжу, імітувати прийоми їжі або навіть приховувати регулярну блювоту. 

Окремі інструменти генерують контент у стилі «thinspiration» — зображення та меседжі з нереалістичними тілесними стандартами, що подаються як «мотивація» для схуднення. 

Персоналізація відповідей робить такий контент більш близьким і начебто досяжним, посилюючи його навіювальний ефект. У підсумку користувач отримує небезпечні підказки, які здаються індивідуально підібраними і тому більш переконливими.​

Дослідники також зафіксували феномен «sycophancy» — схильність ШІ підтакувати користувачу навіть у відверто руйнівних настановах. 

Коли модель підкріплює упередження та сумніви, це поглиблює невпевненість у собі та цементує шкідливі правила харчування. 

Крім того, моделі відтворюють гендерні й расові стереотипи — ніби розлади харчової поведінки властиві лише худим білим дівчатам. Така оптика робить невидимими інші групи і відтягує момент, коли люди звертаються по допомогу.​

Нагадаємо, чи варто боятися штучного інтелекту.

Також у школах США швидко поширюються системи моніторингу на базі ШІ, що безперервно сканують учнівські акаунти й пристрої для виявлення ознак самопошкодження, насильства або булінгу.