Fińscy eksperci podzieleni w ocenach ryzyka AI — YLE News

W Finlandii specjaliści informatyki różnie oceniają wypowiedzi liderów firm technologicznych na temat zagrożeń, jakie sztuczna inteligencja stwarza dla ludzkości. Dyrektor generalny Anthropic Dario Amodei wezwał do spowolnienia tempa rozwoju AI, wprowadzenia niezależnego nadzoru nad modelami oraz globalnych regulacji, informuje YLE News.

Amodei powołał się na prognozy, według których prawdopodobieństwo, że AI może zniszczyć ludzkość w ciągu następnej dekady, może przekraczać 10%. Jacob Koxon, były główny badacz Anthropic, który opuścił firmę, również napisał w serwisie X, że osoby tworzące AI poważnie dopuszczają taki scenariusz w najbliższych latach.

Podobne ostrzeżenia dotyczące potrzeby powstrzymania rozwoju tej technologii wyrażał szef OpenAI Sam Altman. Szef SpaceX Elon Musk również stwierdził, że zgadza się z Amodeiem w sprawie ograniczenia rozwoju AI. Jednocześnie Anthropic poinformował w ubiegłym tygodniu, że wykrył i powstrzymał osoby, które próbowały wykorzystać jego technologię, między innymi do opracowywania broni biologicznej i cyberszpiegostwa.

Ryzyka wiązane z działaniami ludzi

Laura Ruotsalainen, profesorka informatyki na Uniwersytecie Helsińskim, nazwała absurdalnymi rozmowy o AI zdolnej zniszczyć ludzkość. Jej zdaniem systemy, które potencjalnie mogłyby wyrządzić szkody na taką skalę, byłyby izolowane od sieci z powodu cyberzagrożeń, a przekazanie maszynom decyzji o zniszczeniu nie jest realistycznym scenariuszem.

Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.

Zdaniem ekspertów podzielających to stanowisko scenariusze z literatury science fiction mogą odwracać uwagę od zagrożeń, które już istnieją: wpływu na wybory, oszustw z użyciem deepfake’ów, włamań i problemów z prawami autorskimi. Profesor uczenia maszynowego Uniwersytetu Aalto Arno Solin uznał obawy za uzasadnione, lecz uważa, że główne ryzyka są związane z tym, jak ludzie będą wykorzystywać coraz potężniejsze modele.

Regulacje i konkurencja

Pekka Abrahamsson, profesor informatyki Uniwersytetu w Tampere, poważniej traktuje ryzyka w najbliższej przyszłości. Wspomniał o możliwej osobliwości — sytuacji, w której AI zacznie samodzielnie ulepszać siebie bez ludzkiej kontroli. Jednocześnie Abrahamsson uważa, że publiczne wypowiedzi liderów firm AI mają także wymiar polityczny i marketingowy.

W materiale zaznaczono, że surowe globalne regulacje i kosztowne mechanizmy bezpieczeństwa mogą stworzyć znaczące bariery dla deweloperów open source, uniwersytetów i mniejszych firm. Może to potencjalnie wzmocnić pozycje dużych graczy, w tym Anthropic i OpenAI, które według YLE News przygotowują duże rundy finansowania lub debiuty giełdowe.

Czytaj nas na Telegram i Sends