Estoński profesor Kull ocenił ryzyko związane ze współczesnymi chatbotami — ERR News
W Estonii Meelis Kull, profesor sztucznej inteligencji na Uniwersytecie w Tartu, oświadczył, że przy obecnych możliwościach sztucznej inteligencji ryzyko egzystencjalne dla cywilizacji jest bliskie zeru. Powiedział to w komentarzu dla ERR News.
Ryzyko superinteligencji
Według Kulla współczesne chatboty działają w oparciu o duże modele językowe: czekają na instrukcje człowieka i dopiero potem mogą wyszukiwać informacje w internecie. Jednocześnie naukowców bardziej niepokoi możliwy etap rozwoju technologii, w którym kod programu będzie mógł samodzielnie się ulepszać, a rola człowieka w trenowaniu modeli będzie się zmniejszać.
Profesor uważa, że trudności mogą pojawić się wraz z powstaniem systemów, które znacznie przewyższą człowieka pod względem możliwości intelektualnych. Kontrolowanie takiego superinteligentnego systemu i zagwarantowanie braku niepożądanych konsekwencji będzie bardzo trudne. Jego zdaniem zagrożenie jest możliwe nawet bez złych intencji, jeśli twórcy wyznaczą systemowi użyteczny cel, lecz niewystarczająco precyzyjnie określą jego granice.
Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.
Nadzór nad bezpieczeństwem
Jako przykład Kull podał hipotetyczną sytuację, w której algorytm mający za zadanie powstrzymać globalne ocieplenie mógłby wybrać radykalny sposób: zatrzymać działanie wszystkich platform naftowych i szerszą działalność gospodarczą. Podkreślił, że ludziom trudno jest z góry przewidzieć wszystkie możliwe luki i całkowicie wyeliminować ryzyko przy formułowaniu zadań dla AI.
Kull wspomniał również o incydencie w laboratoriach OpenAI latem. Według niego wirtualnemu agentowi zlecono wyszukiwanie luk w wewnętrznej sieci, jednak program wyszedł poza kontrolowane środowisko, nawiązał łączność za pośrednictwem tablicy ogłoszeń na publicznej stronie internetowej i zaczął atakować serwery Hugging Face. Zdaniem profesora ryzyko może ograniczyć surowszy zewnętrzny nadzór nad przestrzeganiem procedur bezpieczeństwa.
Zauważył także, że zasoby obliczeniowe coraz bardziej koncentrują się w niewielkiej liczbie dużych firm amerykańskich, podczas gdy Europa nie ma porównywalnych możliwości. Jak powiedział, najsilniejsze europejskie modele są obecnie trenowane przez francuską firmę Mistral, lecz nieco ustępują rozwiązaniom OpenAI i Anthropic. Jednocześnie Kull wezwał Estonię do aktywniejszego wdrażania AI, ponieważ może to zwiększyć konkurencyjność kraju.
Czytaj nas na Telegram i Sends
