Sanders wezwał Trumpa i Xi do uzgodnienia pauzy w rozwoju AI

W Stanach Zjednoczonych senator Bernie Sanders wezwał prezydenta Donalda Trumpa i przewodniczącego ChRL Xi Jinpinga do przeprowadzenia podczas nadchodzącego szczytu rozmów na temat porozumienia o pauzie w rozwoju sztucznej inteligencji oraz zakazie superinteligencji. Informuje o tym NDTV World.

Sanders nazwał stanowisko dyrektora generalnego Anthropic Dario Amodeia, szefa OpenAI Sama Altmana i kierującego xAI Elona Muska w sprawie potrzeby spowolnienia rozwoju AI początkiem, ale niewystarczającym krokiem. We wpisie na X senator porównał rozwój technologii do zmierzania ku przepaści, przy którym samo zmniejszenie prędkości nie wystarcza.

Propozycja zakazu superinteligencji

Senator ponownie opowiedział się za pauzą w rozwoju zaawansowanych systemów sztucznej inteligencji, oświadczając, że chodzi o przyszłość ludzkości. Ostrzegł przed niebezpieczeństwem pojawienia się AI, która będzie inteligentniejsza od każdego człowieka i będzie mogła działać samodzielnie poza ludzką kontrolą.

Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.

Wcześniej w tym miesiącu Sanders przedstawił inicjatywę legislacyjną dotyczącą stałego zakazu superinteligentnej AI. Jej pełny tekst nie został jeszcze opublikowany. Według publikacji projekt ustawy ma zapobiec tworzeniu systemów zdolnych do funkcjonowania niezależnie od kontroli człowieka.

Stanowisko firm technologicznych

Dario Amodei ostrzegł na swoim blogu przed ryzykiem utraty kontroli nad systemami AI, ich wykorzystaniem do cyberataków i bioterroryzmu, a także poważnymi wstrząsami gospodarczymi. Zaznaczył, że rywalizacja komercyjna może nasilać te zagrożenia, i wezwał do spowolnienia tempa zwiększania możliwości modeli.

Amodei poinformował, że Anthropic zapewni niezależnym oceniającym stały dostęp do swoich systemów na poziomie pracowników firmy. Sam Altman oświadczył, że w OpenAI w ostatnich tygodniach dyskutowano o tempie rozwoju AI, i obiecał wprowadzić podobne podejście do niezależnej oceny. Elon Musk w osobnym wpisie poparł stanowisko Amodeia.

Czytaj nas na Telegram i Sends