Lepassaar stwierdził, że agenci AI nie działają niezależnie — ERR News

W Estonii szef Agencji UE ds. Cyberbezpieczeństwa Juhan Lepassaar stwierdził, że obawy dotyczące samodzielnego działania agentów AI i wymknięcia się ich spod ludzkiej kontroli są przesadzone. Ryzyko pojawia się, gdy ludzie nieprawidłowo konfigurują takie systemy, wydają im zbyt elastyczne instrukcje lub przyznają im nadmierną swobodę działania, informuje ERR News.

AI wzmacnia możliwości złośliwych podmiotów

Lepassaar wyjaśnił, że agenci AI to programy wykorzystujące duże modele językowe do planowania, analizowania i korygowania działań aż do osiągnięcia celu. Nie są świadome i nie działają niezależnie, lecz mogą próbować wykonać powierzone zadanie poza początkowymi parametrami.

Jak zaznaczył, współczesne modele mogą znacząco zwiększać możliwości hakerów. Systemy wytrenowane na milionach i miliardach linii kodu open source dobrze znajdują luki i mogą pomagać w ich wykorzystywaniu. Jednocześnie usuwanie takich problemów zwykle wymaga więcej czasu i interwencji człowieka.

Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.

Cyberprzestępcy wykorzystują również AI do manipulacji informacyjnych i oszustw. Technologie umożliwiają tworzenie przekonujących syntetycznych głosów i obrazów, aby wyłudzać kody dostępu, dane lub inne informacje, które później mogą zostać użyte do wymuszania pieniędzy.

Odpowiedzialność deweloperów

Szef agencji zauważył, że w Europie obowiązuje podejście ramowe, które klasyfikuje usługi i działania związane z AI według poziomu ryzyka. Określa ono także odpowiedzialność deweloperów i osób wdrażających takie systemy, w tym za konfigurowanie i wykorzystywanie technologii w celu ograniczania ryzyka.

Lepassaar dodał, że najnowsze modele mogą łączyć kilka niewielkich luk w celu przeniknięcia do systemu oprogramowania, choć podstawowe metody testowania oprogramowania nie są nowe. Zwykłym użytkownikom doradził, by nie przekazywali informacji osobom trzecim i nie klikali różnych linków.