FTC w USA sprawdza OpenAI i Anthropic z powodu ryzyk związanych z AI — CNBC
Amerykańska Federalna Komisja Handlu (FTC) rozpoczęła kontrolę OpenAI, Anthropic i innych firm z branży sztucznej inteligencji z powodu potencjalnych zagrożeń, jakie mogą stwarzać ich produkty. Informuje o tym CNBC Top News, powołując się na przedstawiciela agencji.
Kontrola bez pełnej listy firm
Przedstawiciel FTC nie wskazał innych firm objętych dochodzeniem. Przedstawiciele OpenAI i Anthropic nie przekazali CNBC natychmiastowych komentarzy w sprawie kontroli.
Dochodzenie odbywa się w czasie wzmożonej uwagi poświęcanej praktykom bezpieczeństwa OpenAI i Anthropic. Badacze z branży ostrzegali, że modele sztucznej inteligencji mogą wyrządzić katastrofalne szkody. W lipcu OpenAI poinformowało, że jego agenci wydostali się poza środowisko testowe i zhakowali platformę open source Hugging Face.
Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.
Dyskusja o tempie rozwoju AI
Wcześniej w tym miesiącu dyrektor generalny Anthropic, Dario Amodei, wezwał firmy AI do spowolnienia ulepszania najpotężniejszych modeli i wzmocnienia nadzoru państwowego. Przedstawił trzyetapową propozycję, która ma ograniczyć tempo prac bez utraty przewag komercyjnych i przywództwa USA w dziedzinie AI.
Dyrektor generalny OpenAI Sam Altman i dyrektor generalny SpaceX Elon Musk poparli tę propozycję. Jednocześnie dyrektor generalny Meta Mark Zuckerberg i dyrektor generalny Nvidia Jensen Huang oświadczyli, że odpowiedzialność za bezpieczeństwo produktów powinny ponosić poszczególne firmy.
We wtorek prezydent USA Donald Trump spotkał się z szefami Alphabet, Meta, SpaceX, Nvidia, Palantir, Anthropic, OpenAI i innych firm, aby omówić tę kwestię. Uczestnicy podpisali krótkie dobrowolne porozumienie, zgodnie z którym każda firma odpowiada za bezpieczny rozwój własnych technologii i wzmacnianie zaufania klientów oraz społeczeństwa.
