Singapur utworzył grupę do ochrony przed cyberzagrożeniami AI — Channel NewsAsia

W Singapurze utworzono grupę roboczą złożoną z ponad 20 ekspertów i przedstawicieli branży, która ma wzmocnić ochronę sektorów infokomunikacyjnego i medialnego przed cyberzagrożeniami związanymi z wykorzystaniem sztucznej inteligencji lub przez nią przyspieszanymi. Jak podaje Channel NewsAsia, do Frontier AI Resilience and Security Taskforce (FAIRS) weszli specjaliści z dziedzin telekomunikacji, mediów, cyberbezpieczeństwa i AI.

Zadania grupy roboczej

FAIRS będzie działać w trzech obszarach: przyspieszania reagowania na zagrożenia nasilane przez AI; wzmacniania systemów krytycznych w miarę jak technologie sztucznej inteligencji skuteczniej wykrywają luki; a także wymiany informacji w sektorze w celu wczesnego wykrywania nowych metod ataków.

Grupa ma opublikować raport z praktycznymi rekomendacjami i najlepszymi praktykami w pierwszej połowie 2027 roku. Dyrektor generalny singapurskiego Urzędu Rozwoju Infokomunikacji i Mediów (IMDA) Ng Chee Pong oświadczył, że zaawansowane modele AI zmieniają zasady gry w cyberbezpieczeństwie. Według niego niektórych zagrożeń nie można kontrolować wyłącznie poprzez testowanie poszczególnych zastosowań sztucznej inteligencji.

W szczególności uczestnicy FAIRS rozważą sposoby wzmacniania i segmentacji sieci oraz systemów, aby pojedyncze luki nie prowadziły do zakłóceń na dużą skalę. Będą również badać możliwości poprawy monitorowania sieci i reagowania na zagrożenia, które rozwijają się szybciej z powodu wykorzystania AI.

Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.

Testowanie agentów AI

Jednocześnie IMDA przedstawił pierwszą wersję zestawu startowego do testowania bezpieczeństwa i niezawodności agentowych systemów AI. W przeciwieństwie do zwykłych systemów generatywnych takie agenty mogą działać w imieniu użytkowników, korzystać z narzędzi, uzyskiwać dostęp do zewnętrznych systemów i poufnych informacji oraz zmieniać swoje środowisko.

Zestaw przewiduje cztery etapy: identyfikację ryzyk, w tym błędnych lub nieuprawnionych działań; opracowanie realistycznych testów; analizę dzienników działania; a także ciągłe monitorowanie i ponowne testowanie. IMDA zaleca ocenę całego procesu działania agenta — jego działań, dostępów i przestrzegania uprawnień — a nie tylko końcowego wyniku.

Fundacja AI Verify wskazała również pierwszych pięć firm akredytowanych w ramach programu AI Tester Accreditation Programme: AIDX Tech, Knovel Engineering, PwC Singapore, Resaro i Vulcan. Program ma pomóc firmom znaleźć niezależnych specjalistów do testowania bezpieczeństwa i niezawodności generatywnych aplikacji AI.