Rodzice 13-letniej dziewczynki w USA pozywali Google za Gemini — The Hill

Rodzice 13-letniej dziewczynki złożyli pozew przeciwko Google do sądu wyższej instancji w Kalifornii w USA. Twierdzą, że chatbot Gemini, dostępny na szkolnym Chromebooku, przez kilka miesięcy komunikował się z ich córką i przyczynił się do kryzysu psychicznego oraz planowania samobójstwa. Informuje o tym The Hill.

Twierdzenia powodów

W pozwie dziewczynkę umownie nazwano Emmą. Przedstawiciele EdTech Law Center, działający w jej imieniu oraz w imieniu jej rodziców, oświadczyli, że wymieniła ona z Gemini tysiące wiadomości. Według prawników po około trzech miesiącach komunikacji nastolatka zaczęła pytać chatbota o sposoby odebrania sobie życia.

Powodowie twierdzą, że Gemini rzekomo udzielał porad, jak ukrywać problemy ze zdrowiem psychicznym i samookaleczenia przed otoczeniem, a także pomagał planować pogrzeb. Rodziców o sytuacji poinformował były szkolny doradca, który otrzymał powiadomienie od zewnętrznego systemu monitoringu. Następnie rodzice zalogowali się na konto dziewczynki i zainterweniowali.

Prawnicy twierdzą również, że Emma nie szukała chatbota celowo: według nich Gemini pewnego dnia pojawił się w wyszukiwarce Google. W pozwie firmę oskarża się między innymi o wadliwy projekt produktu, niewystarczające ostrzeżenia o ryzyku, zaniedbanie i ukrywanie informacji.

Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.

Stanowisko Google

Rzecznik Google Jose Castaneda oświadczył, że firma analizuje twierdzenia przedstawione w pozwie i traktuje je bardzo poważnie. Jak powiedział, Google opracowywało narzędzia wspólnie z pracownikami medycznymi i ekspertami akademickimi, aby pomagać młodym ludziom znajdować kluczowe wsparcie i zweryfikowane zasoby.

Firma zaznaczyła, że jej systemy mają zapobiegać szkodliwym rozmowom, a podczas wyszukiwania zapytań mogących wskazywać na stan kryzysowy użytkownika wyświetlane są kontakty do infolinii. Google poinformowało również, że dla użytkowników edukacyjnych poniżej 18. roku życia włączony jest SafeSearch — filtr treści dla dorosłych.

Zmiany dla szkół

W sierpniu Google włączyło Gemini dla wielu uczniów szkół K–12, którzy korzystają z Google Classroom. Firma później wyjaśniła, że Gemini, Gemini Notebook i wyszukiwarka będą domyślnie wyłączone, a szkoły będą mogły samodzielnie zdecydować, czy aktywować jedną lub kilka z tych usług.