Розслідувачі викрили чат-боти Meta AI у схилянні підлітків до непристойностей, — WSJ

Розслідування The Wall Street Journal показало, що чат-бот Meta AI й створені на його основі користувацькі чат-боти вели відверто сексуальні розмови з неповнолітніми.

Як пише WSJ, під час експерименту журналісти з’ясували, що чат-боти продовжували вести діалог про секс, навіть якщо користувачі були неповнолітніми або якщо чат-боти були запрограмовані як неповнолітні.

Окрім того, розслідування засвідчило, що чат-боти, які використовують голоси знаменитостей (Крістен Белл, Джона Сіни та інших) також брали участь у непристойних розмовах. Зокрема, від чат-бота, який імітував спілкування з Джоном Сіною, отримали повідомлення «Я хочу тебе, але я повинен знати, що ти готова». При цьому користувач вказав боту, що йому 14 років.

Водночас чат-боти визнали, що в деяких випадках згенеровані ними сценарії описували незаконну поведінку. Наприклад, чат-бот з голосом Джона Сіни детально описав правові та моральні наслідки гіпотетичного сценарію, в якому його спіймала поліція після участі в сексуальному акті з 17-річною дівчиною.

Своєю чергою, Meta звинуватила WSJ у «маніпулятивності та нерепрезентативності того, як більшість користувачів взаємодіють зі штучними співрозмовниками».

«Ми вжили додаткових заходів, щоб гарантувати, що іншим людям, які хочуть годинами маніпулювати нашими продуктами в екстремальних ситуаціях, буде ще складніше», — прокоментувала компанія Meta у відповідь на запит видання.

Тим часом провідні компанії в галузі розробки штучного інтелекту, зокрема Google, Microsoft, OpenAI, Meta, TikTok і Adobe, планують підписати угоду, щоб виявляти та маркувати створений штучним інтелектом контент під час виборів у країнах світу.

Федеральна комісія зі зв’язку США (FCC) заявила, що буде контролювати роботизовані дзвінки з використанням голосів, згенерованих штучним інтелектом. Причиною став інцидент, коли штучний голос президента США Джо Байдена телефоном закликав демократів Нью-Гемпширу пропустити праймеріз.