MI5 utworzyła w Wielkiej Brytanii centrum oceny zagrożeń AI — Politico Europe
W Wielkiej Brytanii MI5 utworzyła Centrum Oceny Zagrożeń Sztucznej Inteligencji AITAC, które będzie analizować zagrożenia związane z AI dla kraju, w tym te powiązane z terroryzmem, zagrożeniami ze strony państw i bronią biologiczną. Poinformował o tym dyrektor generalny MI5 Ken McCallum podczas corocznej aktualizacji oceny zagrożeń w Londynie, jak podaje Politico Europe.
Zagrożenia dla bezpieczeństwa
Według McCalluma MI5 już wykrywała terrorystów, którzy próbowali wykorzystywać AI do udoskonalania rozpoznania i metod ataków. Zwrócił on również uwagę na niebezpieczeństwo związane z dronami wspieranymi przez sztuczną inteligencję.
Szef służby oświadczył, że szczególną wagę przywiązuje do ryzyka, iż AI może zmienić możliwości związane z istniejącą lub nową bronią biologiczną. Zauważył, że nieprawidłowe działanie zabezpieczeń w modelach AI może zapewnić terrorystom o ograniczonych możliwościach dodatkową wiedzę i zdolności.
McCallum podkreślił także potrzebę poważnej oceny ryzyka, że AI będzie mogła tworzyć nowe, wcześniej nieznane patogeny. Według niego rząd podejmuje dodatkowe kroki w zakresie przeciwdziałania broni biologicznej.
Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.
Jednolita ocena zagrożeń
AITAC połączy wiedzę ekspercką brytyjskiego Instytutu Bezpieczeństwa AI, Narodowej Agencji ds. Przestępczości oraz Narodowego Centrum Cyberbezpieczeństwa. Zadaniem centrum będzie oddzielanie rzeczywistych zagrożeń od przesady oraz ustalanie priorytetów dla różnych przejawów ryzyka związanego z AI.
Jest to trzecie centrum analityczne utworzone przez MI5, po strukturach oceniających zagrożenia terrorystyczne i zagrożenia ze strony państw. McCallum wyjaśnił, że AITAC ma pomóc uniknąć sprzecznych ocen różnych instytucji, podczas gdy ostateczne decyzje dotyczące reagowania na zagrożenia będzie podejmował rząd.
MI5 nadała również ochronie infrastruktury krytycznej, przeciwdziałaniu wojnie kognitywnej i zagrożeniom technologicznym status jednego z głównych kierunków pracy, obok przeciwdziałania terroryzmowi i zagrożeniom ze strony państw.
