W Pakistanie badacz Anthropic Jacob Coxon poinformował o rezygnacji z powodu ryzyk związanych z AI

W Pakistanie badacz Anthropic Jacob Coxon poinformował o swojej rezygnacji, wyjaśniając ją obawami dotyczącymi wyścigu laboratoriów sztucznej inteligencji o stworzenie systemów, które jego zdaniem w ciągu kilku lat mogą stanowić zagrożenie dla ludzkiego życia. Informuje o tym Dawn.

Według publikacji jako pierwszy o odejściu Coxona poinformował The Wall Street Journal. Gazeta nazwała ten przypadek jednym z pierwszych przykładów rezygnacji pracownika Anthropic z powodu obaw o bezpieczeństwo AI.

Krytyka twórców AI

W postach w serwisie społecznościowym X Coxon poinformował, że przez ostatnie trzy lata prowadził badania nad wstępnym trenowaniem modeli w OpenAI i Anthropic. Stwierdził, że obie firmy działają nieodpowiedzialnie, ponieważ jego zdaniem rywalizują o stworzenie samodoskonalącej się superinteligencji.

Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.

Badacz wezwał, by nie lekceważyć możliwości tej technologii. Według niego takie systemy mogą wkrótce przewyższyć człowieka, włamać się do wszystkiego, szybko zmieniać różne branże oraz zdobywać realną władzę i zasoby. Coxon twierdzi również, że postęp w tych kierunkach nie zwalnia.

Wezwanie do ostrożności

Coxon powiedział, że niektórzy twórcy i kierownicy w dziedzinie AI prywatnie obawiają się, iż technologia do końca dekady może zniszczyć ludzkość. Jego zdaniem nie wszyscy w OpenAI uświadomili sobie ryzyka cywilizacyjne, podczas gdy w Anthropic są one rozumiane, lecz firma dąży do wyprzedzenia innych twórców.

Wezwał pracowników laboratoriów do ponownego przemyślenia tempa rozwoju i do niewprowadzania uczenia ze wzmocnieniem dla systemów superinteligentnych bez dokładnego zrozumienia ich natury. Jak zauważa Dawn, Coxon był także wśród ponad tysiąca badaczy AI, którzy podpisali oświadczenie wzywające do globalnej koordynacji działań rządów, aby w razie potrzeby spowolnić rozwój modeli zdolnych do samodzielnego doskonalenia się.

Czytaj nas na Telegram i Sends