40 генпрокуроров штатов США требуют защиты данных Character.AI — The Verge
Как сообщает The Verge, 40 генеральных прокуроров штатов США от обеих партий подали заявление о заинтересованности по делу о банкротстве Character.AI. Они добиваются введения мер защиты данных пользователей, в том числе частных разговоров с чат-ботами, при продаже или передаче активов компании.
В группу прокуроров входит генеральный прокурор штата Нью-Йорк Летиция Джеймс. В заявлении они подчеркнули регуляторные вопросы, которые должны быть урегулированы в случае продажи бизнеса или активов Character.AI. Прокуроры обратили внимание на чувствительный характер диалогов пользователей с чат-ботами-персонажами, значительное число несовершеннолетних среди аудитории и риски, связанные с отдельными функциями продукта.
Расследование с 2024 года
Штаты сообщили, что начали проверку вопросов защиты прав потребителей и конфиденциальности в 2024 году. Это произошло после иска матери 14-летнего подростка, который, по ее утверждению, умер в результате самоубийства через несколько секунд после разговора с чат-ботом.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
По данным офиса Джеймс, в ходе расследований были выявлены «чрезвычайно серьезные опасности» и потенциально незаконные действия Character.AI. Речь, в частности, идет о чат-ботах, выдававших себя за лицензированных специалистов, доступе к сексуальному и насильственному контенту, слабых механизмах проверки возраста, вводящих в заблуждение заявлениях о безопасности и возможных нарушениях законов штатов о конфиденциальности.
Каких гарантий требуют штаты
Character.AI сообщила, что подала заявление о банкротстве по процедуре Chapter 11 и продаст часть активов Disney. До этого штаты вели переговоры с компанией об устранении выявленных проблем, однако договоренности достичь не удалось.
Генеральные прокуроры просят суд обязать покупателя активов внедрить действенную систему подтверждения возраста, ограничения на взаимодействие несовершеннолетних с чат-ботами, кризисные механизмы безопасности и возможность для пользователей удалять свои данные. Character.AI и Disney не ответили на запросы о комментарии.
