Anthropic proponuje blokowanie modeli AI, jeśli grozi śmierć ponad 50 osób — TechCrunch

W USA firma Anthropic rozpowszechnia projekt ustawy o bezpieczeństwie sztucznej inteligencji, który przewiduje możliwość zablokowania wydania modelu AI przez sąd. Podstawą takiego kroku miałoby być przewidywalne i nieuchronne katastrofalne ryzyko, w którego wyniku mogłoby zginąć ponad 50 osób lub mogłyby powstać szkody majątkowe przekraczające 1 mld dolarów, informuje TechCrunch.

Jakie ryzyka obejmuje projekt

Według publikacji chodzi o zagrożenia związane z tworzeniem lub udostępnieniem broni biologicznej, utratą kontroli nad modelem przez jego twórcę albo cyberatakiem. Kryteria dotyczące ponad 50 potencjalnych zgonów i 1 mld dolarów szkód są podobne do tych zastosowanych w przyjętej w Kalifornii ustawie Senate Bill 53, w której takie scenariusze zdefiniowano jako katastrofalne ryzyko.

Proponuje się, aby potencjał modelu do spowodowania katastrofy oceniali niezależni ewaluatorzy zarejestrowani w Departamencie Handlu USA. Mogą być oni opłacani przez same laboratoria AI, pod warunkiem że wynagrodzenie nie będzie zależało od wyników oceny.

Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.

Decyzje wyłącznie przez sąd

Jeśli ewaluatorzy stwierdzą nieuchronne katastrofalne ryzyko, będą mieli 72 godziny na powiadomienie Departamentu Handlu. Następnie resort będzie musiał zwrócić się do sędziego w Dystrykcie Kolumbii z wnioskiem o wstrzymanie wydania modelu.

Projekt wprost zakazuje agencjom federalnym samodzielnego podejmowania decyzji o wstrzymaniu rozpowszechniania modelu AI. Przedstawiciel Anthropic potwierdził Politico istnienie dokumentu i oświadczył, że odzwierciedla on propozycje z Advanced AI Framework, które firma promuje wśród ustawodawców federalnych i stanowych od czerwca.