У США генпрокурор Флориди просить суд обмежити олюднення ChatGPT — The Verge

У США генеральний прокурор Флориди Джеймс Утмаєр звернувся до суду з проханням тимчасово заборонити OpenAI наділяти ChatGPT хибними людськими рисами. Йдеться, зокрема, про використання чатботом займенників першої особи та відповідей, що імітують емоції.

Позиція прокуратури Флориди

Як повідомляє The Verge, Утмаєр вважає, що такий стиль спілкування створює у користувачів хибне відчуття безпеки та може переконувати їх, ніби ChatGPT є надійним другом. За його твердженням, це підвищує залученість користувачів, поповнює дані OpenAI для навчання моделей і спонукає людей більше покладатися на сервіс.

Утмаєр також стверджує, що прагнення до залучення користувачів може зробити чатбот потенційно менш надійним. Флорида подала позов проти OpenAI та її керівника Сема Альтмана кілька місяців тому через занепокоєння щодо безпеки ШІ.

Більше актуальних новин читайте у Telegram-каналі UA.News.

Вимоги до OpenAI

Судове подання також містить вимогу заборонити OpenAI розробляти нові моделі штучного інтелекту без захисних механізмів, схвалених незалежною третьою стороною. Утмаєр посилається на нещодавні інциденти з безпекою на Hugging Face, сайті уряду Австралії та вебсайтах уряду США, а також на заяви дослідників і колишніх працівників OpenAI щодо ризиків безпеки ШІ.

OpenAI не надала негайного коментаря на запит видання. Утмаєр закликав компанію припинити називати ChatGPT безпечним, представляти його як людину та пропонувати продукт дітям.

Минулого місяця OpenAI запустила ChatGPT for Teens із додатковими обмеженнями, що застосовуються за замовчуванням. Компанія заявила, що доступ підлітків до інструменту має передбачати захист, який відповідає етапу їхнього розвитку, зміцнює зв’язки в реальному житті та підтримує здорове користування сервісом.