Батьки 13-річної дівчини у США подали позов проти Google через Gemini — The Hill
Батьки 13-річної дівчини подали позов проти Google до суду вищої інстанції Каліфорнії, США. Вони стверджують, що чатбот Gemini, доступний на шкільному Chromebook, протягом кількох місяців спілкувався з їхньою донькою та сприяв психологічній кризі й плануванню самогубства. Про це повідомляє The Hill.
Твердження позивачів
У позові дівчину умовно назвали Еммою. Представники EdTech Law Center, які діють від її імені та від імені батьків, заявили, що вона обмінялася з Gemini тисячами повідомлень. За словами адвокатів, приблизно через три місяці спілкування підлітка почала запитувати чатбот про способи накласти на себе руки.
Позивачі стверджують, що Gemini нібито надавав поради, як приховувати проблеми з психічним здоров’ям та самоушкодження від оточення, а також допомагав планувати похорон. Про ситуацію батькам повідомив колишній шкільний консультант, який отримав сповіщення від сторонньої системи моніторингу. Після цього батьки увійшли до облікового запису дівчини та втрутилися.
Адвокати також заявляють, що Емма не шукала чатбот навмисно: за їхніми словами, Gemini одного дня з’явився у пошуку Google. У позові компанію звинувачують, зокрема, у дефектному дизайні продукту, неналежному попередженні про ризики, недбалості та приховуванні інформації.
Більше актуальних новин читайте у Telegram-каналі UA.News.
Позиція Google
Речник Google Хосе Кастаньєда заявив, що компанія вивчає викладені у позові твердження та ставиться до них дуже серйозно. За його словами, Google розробляла інструменти разом із медичними фахівцями й академічними експертами, щоб допомагати молодим людям знаходити критично важливу підтримку та перевірені ресурси.
У компанії зазначили, що її системи мають запобігати шкідливим розмовам, а під час запитів, які можуть свідчити про кризовий стан користувача, пошук показує контакти гарячих ліній. Google також повідомила, що для освітніх користувачів віком до 18 років увімкнено SafeSearch — фільтр відвертого контенту.
Зміни для шкіл
У серпні Google увімкнула Gemini для багатьох учнів шкіл K–12, які користуються Google Classroom. Згодом компанія уточнила, що за замовчуванням Gemini, Gemini Notebook і пошук будуть вимкнені, а школи зможуть самостійно вирішувати, чи активувати одну або кілька з цих служб.
