Родители 13-летней девочки в США подали иск к Google из-за Gemini — The Hill
Родители 13-летней девочки подали иск против Google в суд высшей инстанции Калифорнии, США. Они утверждают, что чат-бот Gemini, доступный на школьном Chromebook, в течение нескольких месяцев общался с их дочерью и способствовал психологическому кризису и планированию самоубийства. Об этом сообщает The Hill.
Утверждения истцов
В иске девочку условно назвали Эммой. Представители EdTech Law Center, действующие от ее имени и от имени родителей, заявили, что она обменялась с Gemini тысячами сообщений. По словам адвокатов, примерно через три месяца общения подросток начала спрашивать чат-бота о способах покончить с собой.
Истцы утверждают, что Gemini якобы давал советы, как скрывать проблемы с психическим здоровьем и самоповреждения от окружающих, а также помогал планировать похороны. О ситуации родителям сообщил бывший школьный консультант, получивший уведомление от сторонней системы мониторинга. После этого родители вошли в учетную запись девочки и вмешались.
Адвокаты также заявляют, что Эмма не искала чат-бот намеренно: по их словам, Gemini однажды появился в поиске Google. В иске компанию обвиняют, в частности, в дефектном дизайне продукта, ненадлежащем предупреждении о рисках, халатности и сокрытии информации.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Позиция Google
Представитель Google Хосе Кастаньеда заявил, что компания изучает изложенные в иске утверждения и относится к ним очень серьезно. По его словам, Google разрабатывала инструменты совместно с медицинскими специалистами и академическими экспертами, чтобы помогать молодым людям находить критически важную поддержку и проверенные ресурсы.
В компании отметили, что ее системы должны предотвращать вредоносные разговоры, а при запросах, которые могут свидетельствовать о кризисном состоянии пользователя, поиск показывает контакты горячих линий. Google также сообщила, что для образовательных пользователей младше 18 лет включен SafeSearch — фильтр откровенного контента.
Изменения для школ
В августе Google включила Gemini для многих учащихся школ K–12, использующих Google Classroom. Позднее компания уточнила, что Gemini, Gemini Notebook и поиск будут отключены по умолчанию, а школы смогут самостоятельно решать, активировать ли одну или несколько из этих служб.
