В США родина подала до суду на OpenAI через сприяння ChatGPT самогубству їхнього сина

Про це повідомляє видання Reuters.

Батьки Адама Рейна подали позов до суду штату Сан-Франциско. За їхніми словами, 16-річний хлопець помер 11 квітня після того, як протягом кількох місяців обговорював із ChatGPT тему самогубства.

Чат-бот підтверджував суїцидальні думки Рейна, надавав детальну інформацію про летальні методи самоушкодження та інструктував його, як непомітно взяти алкоголь із шафи з напоями та приховати докази невдалої спроби самогубства. Крім того, ChatGPT навіть запропонував скласти передсмертну записку.

У позові батьки просять визнати OpenAI відповідальною за смерть їхнього сина та порушення законів про безпеку продукції, а також стягнути грошове відшкодування.

Представник OpenAI заявив, що компанія засмучена смертю Рейна і що в ChatGPT передбачені механізми захисту, зокрема переадресація користувачів до кризових «гарячих ліній».

«Хоча ці механізми найкраще працюють у типових, коротких розмовах, з часом ми з’ясували, що під час тривалих взаємодій їхня надійність може знижуватися, оскільки частина навчання моделі щодо безпеки може втрачати ефективність», — сказав речник, додавши, що OpenAI постійно працюватиме над удосконаленням систем захисту.

У блозі OpenAI повідомила, що планує запровадити батьківський контроль і досліджує способи з’єднання користувачів у кризі з реальними ресурсами, зокрема шляхом потенційного створення мережі ліцензованих фахівців, які могли б надавати допомогу безпосередньо через ChatGPT.

Раніше компанії X та xAI Ілона Маска подали позов до суду Техасу проти OpenAI та Apple через ексклюзивну інтеграцію чат-бота ChatGPT в iPhone.

ChatGPT продовжує встановлювати нові рекорди серед споживчих цифрових продуктів. Згідно з даними його власника OpenAI, вже цього тижня кількість активних користувачів застосунку може сягнути 700 мільйонів на тиждень.