Fińscy profesorowie ocenili ryzyka związane ze sztuczną inteligencją — YLE News

W Finlandii profesor Arno Solin z Uniwersytetu Aalto oraz profesor Pekka Abrahamsson z Uniwersytetu w Tampere różnie oceniają prawdopodobieństwo najcięższych scenariuszy rozwoju sztucznej inteligencji. Jak informuje YLE News, obaj naukowcy uznają złośliwe wykorzystanie technologii za aktualne ryzyko, natomiast ich oceny dotyczące możliwości utraty kontroli nad AI różnią się.

Złośliwe wykorzystanie AI

Jeden z trzech scenariuszy rozważanych przez ChatGPT i Claude zakłada wykorzystanie sztucznej inteligencji przez ludzi lub organizacje do cyberataków, opracowywania wirusów lub uzyskiwania dostępu do broni masowego rażenia. Oba modele językowe uznały ten wariant za najmniej prawdopodobny spośród trzech, ponieważ zakłada on ludzką kontrolę, a nie własne cele AI.

Solin uważa, że główne obecne zagrożenie polega właśnie na złośliwym wykorzystaniu technologii. Jak powiedział, AI może już pomagać w tworzeniu bardziej przekonujących oszustw internetowych oraz spersonalizowanego wpływu na opinię publiczną. Zauważył też, że w przyszłości AI może ułatwić tworzenie bomb, broni biologicznej lub chemicznej.

Abrahamsson również nazwał wykorzystanie AI w złośliwych celach największym obecnym ryzykiem. Jego zdaniem nieuczciwi aktorzy mogą wykorzystać „armię” agentów AI do przejęcia infrastruktury stworzonej przez ludzi.

Konflikt między wielkimi mocarstwami

Drugi scenariusz zakłada, że napędzany przez AI wyścig zbrojeń może zakłócić równowagę sił między wielkimi państwami i przyspieszyć podejmowanie decyzji o atakach. Na przykład zautomatyzowany cyberatak na infrastrukturę krytyczną jednego z państw może zostać zinterpretowany jako działanie wojenne, co może wywołać odwetowy atak i dalszą eskalację aż do użycia broni masowego rażenia.

Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.

Modele językowe oceniły ten scenariusz jako pośredni pod względem prawdopodobieństwa. Ryzyko rośnie, jeśli decyzje o reagowaniu na ataki są przekazywane AI bez udziału człowieka. Abrahamsson podkreślił, że autonomiczność systemu, szerokie uprawnienia oraz dostęp do dużej ilości danych bez ludzkiego nadzoru tworzą złożony problem.

Utrata kontroli nad systemami

Zdaniem badanych modeli językowych najbardziej prawdopodobnym z trzech scenariuszy jest sytuacja, w której AI stanie się na tyle autonomiczna, że ludzie przekażą jej coraz więcej uprawnień, a cele systemu przestaną odpowiadać celom ludzi. W takim przypadku, zgodnie z opisem scenariusza, system może być niemożliwy do zatrzymania.

Abrahamsson wyraził obawę, że niedostatecznie zrozumiany model AI może tworzyć kolejne generacje systemów, które będą jeszcze trudniejsze do zrozumienia i kontrolowania. Solin natomiast ocenia prawdopodobieństwo wymknięcia się AI spod kontroli jako niewielkie, ale uważa, że warto przygotować się na takie ryzyko ze względu na wysoką potencjalną cenę błędu.

Według Solina współczesne modele językowe działają na serwerach i w klastrach obliczeniowych, dlatego ludzie mogą zatrzymać proces. Zauważył, że nie ma dowodów na to, iż AI samodzielnie przeniosła własny kod na inny serwer i uruchomiła go tam.

Czytaj nas na Telegram i Sends