40 генпрокурорів штатів США вимагають захисту даних Character.AI — The Verge

Як повідомляє The Verge, у США 40 генеральних прокурорів штатів від обох партій подали заяву про зацікавленість у справі про банкрутство Character.AI. Вони домагаються, щоб під час продажу або передання активів компанії запровадили заходи захисту даних користувачів, зокрема приватних розмов із чатботами.

До групи прокурорів входить генеральна прокурорка штату Нью-Йорк Летиція Джеймс. У заяві вони наголосили на регуляторних питаннях, які мають бути врегульовані в разі продажу бізнесу або активів Character.AI. Прокурори звернули увагу на чутливий характер діалогів користувачів із персонажами-чатботами, значну кількість неповнолітніх серед аудиторії та ризики, пов’язані з окремими функціями продукту.

Розслідування з 2024 року

Штати повідомили, що розпочали перевірку питань захисту прав споживачів і приватності у 2024 році. Це сталося після позову матері 14-річного підлітка, який, за її твердженням, помер унаслідок самогубства через кілька секунд після розмови з чатботом.

Більше актуальних новин читайте у Telegram-каналі UA.News.

За даними офісу Джеймс, під час розслідувань виявили «надзвичайно серйозні небезпеки» та потенційно незаконні дії Character.AI. Йдеться, зокрема, про чатботів, які видавали себе за ліцензованих фахівців, доступ до сексуального й насильницького контенту, слабкі механізми перевірки віку, оманливі заяви про безпеку та можливі порушення законів штатів про конфіденційність.

Яких гарантій вимагають штати

Character.AI повідомила, що подала заяву про банкрутство за процедурою Chapter 11 і продасть частину активів Disney. До цього штати вели переговори з компанією щодо усунення виявлених проблем, однак домовленості не досягли.

Генеральні прокурори просять суд зобов’язати покупця активів запровадити дієву систему підтвердження віку, обмеження взаємодії неповнолітніх із чатботами, кризові механізми безпеки та можливість для користувачів видаляти свої дані. Character.AI і Disney не відповіли на запити про коментар.