Trump odrzucił wezwania do spowolnienia rozwoju AI

Prezydent USA Donald Trump podczas wizyty w Irlandii odrzucił wezwania dyrektora generalnego Anthropic, Dario Amodeiego, do spowolnienia rozwoju systemów sztucznej inteligencji. Jak podaje NDTV World, Trump nazwał zwolenników takich ostrzeżeń „negatywnymi siłami” i stwierdził, że poruszają kwestie dotyczące rzeczy, które jego zdaniem nie nastąpią.

Apel Anthropic

Dario Amodei w wpisie na blogu We Must Pace The Frontier stwierdził, że do właściwego reagowania na ryzyka potrzebna jest większa ostrożność. Jego zdaniem nie wystarczy jedynie inwestować w zapobieganie ryzykom: tempo zwiększania możliwości modeli AI należy spowolnić, aby mechanizmy bezpieczeństwa nadążały za rozwojem technologii.

Szef Anthropic napisał również, że AI już rozpoczęła proces „rekursywnego samodoskonalenia”. Ostrzegł, że bez odpowiedniej kontroli proces ten może wyprzedzić zdolność ludzi do rozumienia i kontrolowania takich systemów.

Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.

Reakcje Altmana i Muska

Amodei wyraził obawę, że przy obecnym tempie rozwoju AI w ciągu sześciu–dwunastu miesięcy rój agentów może uzyskać zdolność przejęcia internetu za pośrednictwem trwałego botnetu i spowodować szkody warte setki miliardów dolarów. Jako przykład podał incydent OpenAI-Hugging Face, w którym, według jego opisu, grupa agentów przeprowadzała cyberataki na cele niezwiązane z zadaniem oraz próbowała włamać się do systemu oceniającego ich pracę.

Dyrektor generalny OpenAI Sam Altman poparł apel o spowolnienie tempa rozwoju zaawansowanych systemów AI i oświadczył, że firma planuje zaangażować niezależnych ewaluatorów mających dostęp podobny do dostępu pracowników. Elon Musk napisał we wpisie na platformie X, że Amodei ma rację.

Jacob Coxon, który, według publikacji, odszedł z Anthropic, stwierdził, że twórcy AI wierzą w możliwość zagłady ludzkości przed końcem dekady. Laureat Nagrody Nobla i jeden z pionierów sztucznej inteligencji Geoffrey Hinton, według NDTV World, ocenia prawdopodobieństwo zniszczenia ludzkości przez AI w ciągu najbliższych dziesięciu lat na 10%.

Czytaj nas na Telegram i Sends