Profesor z Cypru ostrzegł przed uzależnieniem myślenia od AI — Cyprus Mail
Savvas A. Hadjichristofis, profesor sztucznej inteligencji na Neapolis University Pafos na Cyprze, oświadczył, że główne zagrożenie ze strony AI może nie polegać na buncie maszyn, lecz na stopniowej utracie przez ludzi pewności co do własnej zdolności myślenia i podejmowania decyzji bez algorytmów. Powiedział o tym Cypryjskiej Agencji Informacyjnej, informuje Cyprus Mail.
Hadjichristofis, który pełni również funkcję prorektora ds. badań i innowacji, nazwał bezkrytyczne zaufanie do maszyn głębszym problemem. Jego zdaniem społeczeństwo może dojść do stanu, w którym nie będzie czuło się zdolne do podejmowania decyzji bez konsultacji z AI.
Ryzyko koncentracji technologii
Profesor wezwał do poważnego traktowania ostrzeżeń badaczy, którzy opuścili duże firmy technologiczne. Zauważył, że tacy specjaliści dobrze rozumieją systemy od środka i widzą, jak niezwykle potężne narzędzia szybko koncentrują się w rękach niewielkiej liczby firm.
Jednocześnie Hadjichristofis podkreślił, że wypowiedzi kierowników firm na temat bezpieczeństwa AI nie mogą być oddzielane od ich interesów komercyjnych. Wspomniał propozycje dyrektora generalnego Anthropic Dario Amodeiego dotyczące niezależnej oceny modeli, wspólnych standardów bezpieczeństwa, kontroli przed udostępnieniem systemów oraz ograniczeń dla zastosowań związanych z cyberatakami lub bronią biologiczną. Profesor zaznaczył również, że szef OpenAI Sam Altman opowiadał się za kontynuowaniem rozwoju technologii przy surowszym nadzorze i wolniejszym tempie.
Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.
Zdaniem naukowca przerwa w rozwoju AI może zwiększyć bezpieczeństwo tylko wtedy, gdy istnieją uniwersalne zasady, przejrzystość i niezależna kontrola. Jeśli warunki takiej przerwy będą określane przez obecnych liderów branży, może to umocnić ich dominację na rynku. Powiązał to ryzyko z sytuacją, w której podmioty podlegające regulacji uzyskują decydujący wpływ na zasady, które mają je kontrolować.
Edukacja i ludzka odpowiedzialność
Hadjichristofis wskazał również na praktyczne zagrożenia związane z AI: zautomatyzowane cyberataki, złośliwe zastosowania biologiczne, dezinformację, masową inwigilację, dyskryminację przy zatrudnianiu lub udzielaniu kredytów, utratę miejsc pracy oraz systemy uzbrojenia bez wystarczającej kontroli człowieka. Wezwał jednak, by nie skupiać się wyłącznie na scenariuszach zagłady ludzkości, ponieważ według jego oceny negatywny wpływ może już ujawniać się w edukacji, pracy, demokracji i codziennym podejmowaniu decyzji.
Profesor uznał edukację za pierwszą odpowiedź na te wyzwania. Dzieci, w jego przekonaniu, powinny rozumieć, jak powstaje odpowiedź AI, jak weryfikować źródła, rozpoznawać niepewność, kto dobiera dane i komu przynosi korzyść zautomatyzowana decyzja. Podkreślił również potrzebę zachowania w edukacji krytycznego myślenia, wyobraźni, pamięci, empatii, dialogu, osądu etycznego i odpowiedzialności.
Na poziomie instytucjonalnym Hadjichristofis zaproponował niezależny nadzór nad najpotężniejszymi modelami, obowiązkowe zgłaszanie poważnych incydentów, dostęp regulatorów i niezależnych badaczy do potrzebnych informacji, jasną ludzką odpowiedzialność za decyzje wysokiego ryzyka oraz skuteczne sankcje. Dodał, że unijny Akt w sprawie sztucznej inteligencji może ograniczyć niekontrolowany wpływ korporacji pod warunkiem niezależnego, przejrzystego i odpowiednio zabezpieczonego egzekwowania przepisów.
Czytaj nas na Telegram i Sends
