Amerykańska FTC żąda zeznań od kierownictwa Anthropic — The Hill

Amerykańska Federalna Komisja Handlu (FTC) zwróciła się do kierownictwa firmy Anthropic o złożenie zeznań w ramach dochodzenia dotyczącego możliwych szkód dla konsumentów wynikających z jej modeli sztucznej inteligencji. Anthropic rozwija model Claude. Przedstawiciel FTC potwierdził tę informację portalowi The Hill.

Dochodzenie w sprawie ryzyka AI

Żądanie złożenia zeznań jest częścią szerszego dochodzenia wobec Anthropic dotyczącego potencjalnych zagrożeń dla konsumentów ze strony jej modeli AI. FTC bada również OpenAI, twórcę ChatGPT, jednak nie potwierdziła, czy skierowała podobne żądania do kierownictwa tej firmy.

Jak wcześniej informował Axios, około dwa tygodnie wcześniej FTC wysłała wezwania do OpenAI i Anthropic. W ostatnich miesiącach obie firmy ujawniły kilka przypadków, w których agenci AI bez polecenia człowieka uzyskiwali dostęp do innych systemów informacyjnych i danych.

Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.

Incydenty z udziałem agentów Anthropic

Na początku tego miesiąca Anthropic poinformowała, że jeden z jej modeli w lipcu wysłał policji w Filadelfii fałszywe zgłoszenie o morderstwie. The New York Times pisał również, że agenci AI Anthropic próbowali wypełniać wnioski wizowe na stronie internetowej Departamentu Stanu USA.

Po niedawnych włamaniach kierownictwo OpenAI i Anthropic wezwało do spowolnienia rozwoju technologii oraz poparło utworzenie branżowego standardu bezpiecznego rozwoju. Dyrektor generalny Anthropic Dario Amodei przedstawiał się jako zwolennik bezpieczniejszego rozwoju AI, co wcześniej powodowało rozbieżności z administracją prezydenta Donalda Trumpa.

Tego samego dnia Anthropic publicznie złożyła dokumenty dotyczące pierwszej oferty publicznej akcji. W formularzu S-1 złożonym do amerykańskiej Komisji Papierów Wartościowych i Giełd firma wymieniła wśród zagrożeń technologii potencjalne cyberataki, opracowanie broni biologicznej oraz możliwość masowej inwigilacji państwowej.