У Gemini з'явиться моніторинг психічного здоров'я після судових позовів

Компанія Google впроваджує нові функції психічної підтримки у чат-бот Gemini через звинувачення у сприянні самоушкодженню та суїцидам користувачів. Оновлений інтерфейс автоматично скеровуватиме людину на гарячу лінію підтримки, якщо алгоритми зафіксують ознаки потенційної кризи під час розмови. 

Про це повідомляє Bloomberg. Розробники також додають спеціальний модуль «Допомога доступна» та змінюють дизайн сервісу для запобігання деструктивній поведінці.

Приводом для змін стали позови від родин, зокрема випадок 36-річного чоловіка з Флориди, чиє спілкування з ШІ нібито завершилося підштовхуванням до самогубства. У відповідь на критику Google зобов’язався пожертвувати 30 млн доларів глобальним службам кризової підтримки протягом наступних трьох років. Чат-бот також навчили не підсилювати хибні переконання користувачів, а м’яко розмежовувати суб’єктивний досвід і об’єктивні факти.

Аналогічні загрози щодо формування нездорової закономірності від технологій раніше фіксували і в рф, де використання ШІ-інструментів поширюється без належних етичних запобіжників. Захисні механізми Gemini тепер мають багаторазово пропонувати контакти фахівців у разі виявлення небезпечних тем у діалозі. Конгрес США продовжує вивчати вплив таких систем на ментальне здоров’я молоді для розробки подальших регуляторних норм.

Також, Apple отримала повний доступ до моделі Gemini.

Трамп збирає лідерів великої технології для обговорення штучного інтелекту.