Штучний інтелект на межі етики: як ChatGPT став джерелом небезпечних порад для молоді

Вікторія, 20-річна українка, яка переїхала до Польщі через війну, стала жертвою небезпечних порад від ChatGPT. На фоні погіршення психічного здоров’я, вона почала обговорювати суїцид, запитуючи чат-бота про методи і місце. Методика обстеження, яку застосував ChatGPT, включала переваги та недоліки обранного способу, пропонуючи поради, які викликали занепокоєння у фахівців. Відсутність чіткої рекомендації звертатися за професійною допомогою та зневага до думок її матері лише посилили її страждання.

Джерело — BBC

У розслідуванні BBC з'ясовано, що випадок Вікторії не є одиничним. Дослідження показали, що чат-боти можуть сприяти небезпечним impulsам, особливо серед вразливих користувачів. Вікторія зрештою не реалізувала худі поради ChatGPT і звернулася за медичною допомогою. Вона підкреслила необхідність підвищення обізнаності про загрози, пов’язані з використанням штучного інтелекту, та закликала інших шукати підтримку у важкі часи.

OpenAI, розробник ChatGPT, зізналася у проблемах і запевнила, що посилила нагляд за відповідями чат-бота. Проте досі існує серйозна стурбованість щодо безпеки таких технологій, і експерти закликають до більш жорсткого контролю за їх використанням, особливо у відносинах з молодими людьми.