Szef Anthropic Amodei wezwał USA i Chiny do porozumienia w sprawie kontroli nad AI
Dyrektor generalny Anthropic Dario Amodei wezwał USA i Chiny do połączenia powściągliwości w rozwoju sztucznej inteligencji z porozumieniami dotyczącymi wzajemnych ograniczeń ryzyka. W wywiadzie dla amerykańskiej stacji telewizyjnej CBS oświadczył, że strategiczna rywalizacja z Chinami jest główną przeszkodą w spowolnieniu rozwoju technologicznego, informuje Agencja Anadolu.
Porozumienia USA i Chin
Amodei zaproponował ograniczenie dostaw zaawansowanych półprzewodnikowych chipów do „autorytarnych” państw, aby zyskać czas na negocjacje z Pekinem. Jego zdaniem USA i Chiny powinny spróbować ustanowić wzajemne ograniczenia dotyczące niebezpiecznego wykorzystania systemów AI.
Porównał takie negocjacje do porozumień o kontroli zbrojeń jądrowych między USA a ZSRR. Według szefa Anthropic nawet przeciwnicy posiadający tysiące rakiet uznawali potrzebę negocjacji, aby zmniejszyć skalę potencjalnych zniszczeń. Jednocześnie Amodei podkreślił, że samej zimnej wojny nie należy uważać za wzór do naśladowania.
Przed planowanym dwustronnym spotkaniem prezydenta USA Donalda Trumpa i przewodniczącego ChRL Xi Jinpinga wezwał strony do zawarcia konkretnych porozumień w celu zmniejszenia katastrofalnych zagrożeń. Wśród priorytetowych kroków Amodei wymienił rozszerzenie postanowień Konwencji o broni biologicznej na systemy AI, aby państwa nie wykorzystywały ich do tworzenia patogenów ani nie udostępniały modeli, z których mogliby skorzystać bioterroryści. Podkreślił, że kluczową kwestią w takich porozumieniach jest weryfikacja ich realizacji.
Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.
Zewnętrzna kontrola laboratoriów
Amodei zaproponował również zaangażowanie zewnętrznych oceniających z organizacji non-profit lub struktur państwowych bezpośrednio w laboratoria podczas szkolenia modeli. Tacy inspektorzy mieliby sprawdzać, czy deweloperzy przestrzegają deklarowanych protokołów, podobnie jak audytorzy w dziedzinie bezpieczeństwa żywności.
Według agencji pomysł uzyskał wstępne poparcie Sama Altmana z OpenAI oraz Elona Muska z xAI. Amodei uważa, że firmy powinny wspólnie z władzami określać standardy udostępniania nowych systemów.
Dyrektor generalny Anthropic sprzeciwił się ustawowemu zakazowi dotyczącymi zaawansowanych modeli AI, ponieważ jego zdaniem mógłby on zatrzymać badania zdolne doprowadzić do odkryć medycznych i osłabić technologiczną pozycję kraju. Ostrzegł również, że awaryjne wyłączenie nie jest wystarczającą ochroną: potężny system, jak powiedział, może omijać próby jego zatrzymania. Zamiast tego Amodei poparł wielowarstwowy system ochrony z kilkoma wzajemnie uzupełniającymi się barierami.
Czytaj nas na Telegram i Sends
