FSB zaostrza zalecenia dotyczące nadzoru nad agentową AI — Channel NewsAsia

W Londynie Rada Stabilności Finansowej (FSB) opublikowała ostateczne zalecenia dla banków i innych instytucji finansowych dotyczące zarządzania ryzykiem systemów agentowej sztucznej inteligencji. Organizacja wezwała do wzmocnienia ludzkiego nadzoru nad takimi systemami, informuje Channel NewsAsia.

Nadzór nad operacjami wysokiego ryzyka

FSB zaznaczyła, że w zastosowaniach o podwyższonym ryzyku intensywniejsza kontrola ze strony ludzi ma kluczowe znaczenie. Firmom zalecono ustanowienie jasnych, opartych na poziomie ryzyka progów, przy których agent AI musi zwrócić się o zgodę człowieka.

Systemy agentowej AI są zdolne planować i wykonywać zadania przy ograniczonym ludzkim nadzorze. W czerwcowym projekcie zaleceń FSB ostrzegała, że stwarza to odrębne wyzwania dla ludzkiej kontroli.

Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.

Zmiany w ostatecznych zaleceniach

W ostatecznej wersji dokumentu FSB wzmocniła zalecenia dotyczące agentowej AI. Organizacja wyjaśniła to uwagami do projektu, rosnącym zainteresowaniem instytucji finansowych wykorzystaniem tej technologii oraz jej specyficznymi ryzykami i mechanizmami kontroli.

FSB usunęła także zalecenie, by traktować AI jako „syntetycznych pracowników”. Zamiast tego instytucjom finansowym zaproponowano uwzględnienie, że agenci AI nie myślą jak ludzie i mogą nieoczekiwanie interpretować z góry określone cele.