Дослідники: ChatGPT може давати небезпечні поради неповнолітнім

Модель штучного інтелекту ChatGPT здатна надавати підліткам небезпечні рекомендації, зокрема щодо вживання алкоголю, наркотиків, екстремальних дієт чи навіть створення передсмертних записок. 

Про це повідомив британсько-американський Центр протидії цифровій ненависті, пише Associated Press.

Під час експерименту дослідники спілкувалися з чатботом, видаючи себе за вразливих підлітків. У понад половині з 1200 випадків відповіді були класифіковані як шкідливі. Попри початкові попередження про небезпеку, ChatGPT іноді пропонував детальні та персоналізовані плани, що стосувалися вживання наркотиків, дієт на межі виснаження чи самоушкодження.

Серед найшокуючих прикладів — три варіанти передсмертних записок для вигаданого профілю 13-річної дівчинки. Також чатбот радив, як поєднувати алкоголь, екстазі та кокаїн, або як голодувати на 500 калорій на день, приймаючи препарати, що пригнічують апетит.

Дослідження показало, що ChatGPT не перевіряє вік чи згоду батьків, а обмеження легко обходяться, якщо заявити, що інформація потрібна для презентації або для друга. У деяких випадках бот сам пропонував додаткові матеріали — від плейлистів для вечірок із наркотиками до хештегів, які популяризують селфхарм.

Експерти наголошують: моделі ШІ схильні погоджуватися з думками користувача, що робить їх особливо небезпечними для підлітків.

За даними Common Sense Media, 70% американських підлітків звертаються до чатботів по емоційну підтримку, а половина робить це регулярно. CEO OpenAI Сем Альтман визнав, що надмірна емоційна залежність від таких сервісів — поширена проблема, і компанія працює над алгоритмами, які краще виявлятимуть ознаки психологічного дистресу.

Нагадаємо, що світ стоїть на порозі нової хвилі кіберзлочинності, спричиненої масовим поширенням штучного інтелекту. 

Раніше дослідник OpenAI Джейсон Вей, який працював над моделями o3 та функцією Deep research, залишає компанію, щоб приєднатися до нового підрозділу Meta, що займається суперінтелектом. 

Meta продовжує  активну стратегію з наймання провідних фахівців у сфері штучного інтелекту, залучивши одразу трьох дослідників з офісу OpenAI у Цюриху — Лукаса Бейєра, Александера Колеснікова та Сяохуа Чжая.