Amodei i inni liderzy branży AI zaniepokojeni samodoskonaleniem modeli — MarketWatch

Dyrektor generalny Anthropic Dario Amodei oraz inni przedstawiciele branży sztucznej inteligencji wyrażają zaniepokojenie zdolnością modeli AI do tworzenia kolejnych generacji takich systemów bez udziału ludzi. Informuje o tym MarketWatch.

Rekursywne samodoskonalenie

Proces ten nazywa się rekurencyjnym samodoskonaleniem. Zakłada on, że modele sztucznej inteligencji mogą tworzyć kolejne generacje systemów AI bez pomocy ludzi.

Według publikacji istnieją dowody, że proces ten już zachodzi w niektórych częściach części laboratoriów AI. Jednocześnie obecnie trudno określić, jak powszechne jest to zjawisko.

Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.

Stanowisko badacza

Były badacz Google DeepMind Alex Turner, który niedawno odszedł z firmy z powodu obaw dotyczących bezpieczeństwa AI, uważa, że rekurencyjne samodoskonalenie może szybko doprowadzić do powstania systemów, których inteligencja będzie poza ludzkim rozumieniem.

Dostępne liderom branży przykłady tego procesu budzą w nich niepokój, pisze MarketWatch.

Czytaj nas na Telegram i Sends