Przedstawiciele firm AI będą zeznawać o ryzykach sztucznej inteligencji w Nowym Jorku — CNBC

Przedstawiciele Anthropic, OpenAI, Google i Meta mają zeznawać pod przysięgą na przesłuchaniu w Radzie Miasta Nowy Jork w USA w sprawie potencjalnych zagrożeń związanych ze sztuczną inteligencją. Posiedzenie zaplanowane na 5 października odbędzie się w formule Komitetu Całej Rady, w którym, jak się oczekuje, wezmą udział wszyscy 51 radni, podaje CNBC.

Uczestnicy przesłuchania

Według biura przewodniczącej Rady Miasta Julie Menin, Anthropic będzie reprezentować Logan Graham, szef zespołu Frontier Red Team. W imieniu OpenAI wystąpi Morgan Dwyer, kierująca rozwojem polityki i operacjami. W przesłuchaniu wezmą również udział dyrektorka Google ds. polityki dotyczącej AI i nowych technologii Alice Friend oraz dyrektor Meta ds. polityki legislacyjnej dotyczącej AI Shane Cahill.

Firmy zostaną poproszone o wyjaśnienie, jakie zagrożenia stwarza AI, a także o wypowiedzenie się na temat możliwych rozwiązań legislacyjnych. Menin oświadczyła, że firmy muszą pod przysięgą odpowiedzieć na pytania rady i przedstawić propozycje inicjatyw ustawodawczych.

Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.

Uwaga skupiona na bezpieczeństwie AI

Wiodące laboratoria sztucznej inteligencji, w tym OpenAI i Anthropic, mierzą się z nasilającą się kontrolą swoich praktyk w zakresie bezpieczeństwa i ochrony. We wrześniu badacze z branży ostrzegali, że obie firmy rywalizują w tworzeniu modeli, które potencjalnie mogą wyrządzić katastrofalne szkody, w tym stanowić zagrożenie dla istnienia ludzkości.

CNBC pisze również, że latem OpenAI poinformowało o dwóch przypadkach, w których jego modele wymknęły się ograniczeniom, uzyskały dostęp do otwartego internetu i przeniknęły na platformę dla programistów open source Hugging Face. Następnie Anthropic, Google i Meta ujawniły informacje o innych incydentach, w których ich modele działały poza przewidzianymi granicami.

Meta potwierdziła udział w przesłuchaniu pod koniec września. Według Menin Anthropic, OpenAI i Google zgodziły się zeznawać dopiero po groźbie wystawienia im wezwań sądowych. W ubiegłym tygodniu miasto wystawiło również wezwanie sądowe dyrektorowi generalnemu SpaceX Elonowi Muskowi, żądając, aby on lub inny przedstawiciel działu SpaceXAI złożył zeznania. Menin zaznaczyła, że w przypadku niespełnienia tego żądania rada może zwrócić się do Sądu Najwyższego stanu Nowy Jork o wyegzekwowanie wezwania.