Anthropic proponuje, by sądy blokowały niebezpieczne modele AI — Channel NewsAsia
W Stanach Zjednoczonych firma Anthropic zaproponowała gubernatorowi Kalifornii Gavinowi Newsomowi, aby zezwolił urzędnikom państwowym występować do sądu z wnioskiem o zablokowanie udostępnienia modeli sztucznej inteligencji, jeśli testy wykażą, że stanowią one poważne zagrożenie dla społeczeństwa. informuje Channel NewsAsia, powołując się na list firmy z 15 października.
Propozycje dla Kalifornii
Przedstawiciel Anthropic potwierdził autentyczność listu. Biuro gubernatora Kalifornii nie udzieliło natychmiastowego komentarza w sprawie tej inicjatywy.
Firma przedstawiła swoje rekomendacje po tym, jak Newsom we wrześniu powołał grupę ekspertów ds. sztucznej inteligencji. Jej zadaniem jest przygotowanie propozycji dotyczących wymogów bezpieczeństwa AI.
Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.
Zamiast całkowitego wyłączenia
Anthropic sprzeciwiła się również wymogowi wbudowywania w modele tak zwanych wyłączników awaryjnych, które mogłyby całkowicie zatrzymać działanie systemu, jeśli firma straci kontrolę nad jego działaniami. Zdaniem firmy skuteczniejsze byłyby środki celowane: wyłączenie problematycznego agenta AI lub zakończenie dostępu konkretnego klienta do modelu.
We wrześniu ponadpartyjna grupa senatorów USA omawiała projekt ustawy, który mógłby przyznać rządowi uprawnienia do blokowania udostępniania poszczególnych modeli AI uznanych za niebezpieczne. W tym podejściu firmy mogłyby zaskarżyć taką decyzję do sądu federalnego. Po przerwie wyborczej Kongres nie posunął tej propozycji dalej.
W lipcu członkowie Izby Reprezentantów USA przedstawili projekt ustawy AI Kill Switch Act, który przewiduje prawo urzędników do żądania od firm AI zatrzymania modeli stwarzających ryzyko dla życia ludzkiego lub gospodarki. Wcześniej administracja Donalda Trumpa nakazała Anthropic ograniczyć zagraniczny dostęp do jej modeli Mythos 5 i Fable 5 o możliwościach cybernetycznych ze względu na bezpieczeństwo narodowe, jednak później Departament Handlu USA uchylił to zarządzenie.
