W USA prokurator generalny Florydy prosi sąd o ograniczenie antropomorfizacji ChatGPT — The Verge
W Stanach Zjednoczonych prokurator generalny Florydy James Uthmeier zwrócił się do sądu z prośbą o tymczasowe zakazanie OpenAI nadawania ChatGPT mylących ludzkich cech. Chodzi w szczególności o używanie przez chatbota zaimków w pierwszej osobie oraz odpowiedzi naśladujących emocje.
Stanowisko prokuratury Florydy
Jak podaje The Verge, Uthmeier uważa, że taki styl komunikacji tworzy u użytkowników fałszywe poczucie bezpieczeństwa i może przekonywać ich, że ChatGPT jest godnym zaufania przyjacielem. Według niego zwiększa to zaangażowanie użytkowników, zasila dane OpenAI służące do trenowania modeli i skłania ludzi do większego polegania na usłudze.
Uthmeier twierdzi również, że dążenie do zaangażowania użytkowników może sprawić, że chatbot będzie potencjalnie mniej wiarygodny. Floryda kilka miesięcy temu wniosła pozew przeciwko OpenAI i jej szefowi Samowi Altmanowi w związku z obawami dotyczącymi bezpieczeństwa AI.
Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.
Wymagania wobec OpenAI
Wniosek sądowy zawiera również żądanie zakazania OpenAI opracowywania nowych modeli sztucznej inteligencji bez mechanizmów zabezpieczających zatwierdzonych przez niezależną stronę trzecią. Uthmeier powołuje się na niedawne incydenty bezpieczeństwa w Hugging Face, na stronie australijskiego rządu i stronach internetowych rządu USA, a także na wypowiedzi badaczy i byłych pracowników OpenAI dotyczące zagrożeń dla bezpieczeństwa AI.
OpenAI nie udzieliło natychmiastowego komentarza na zapytanie redakcji. Uthmeier wezwał firmę, aby przestała nazywać ChatGPT bezpiecznym, przedstawiać go jako człowieka oraz oferować produkt dzieciom.
W ubiegłym miesiącu OpenAI uruchomiło ChatGPT for Teens z dodatkowymi ograniczeniami stosowanymi domyślnie. Firma oświadczyła, że dostęp nastolatków do narzędzia powinien obejmować ochronę odpowiednią do etapu ich rozwoju, wzmacniać więzi w realnym życiu i wspierać zdrowe korzystanie z usługi.
