FSB усилила рекомендации по надзору за агентным ИИ — Channel NewsAsia

В Лондоне Совет по финансовой стабильности (FSB) опубликовал финальные рекомендации для банков и других финансовых учреждений по управлению рисками агентных систем искусственного интеллекта. Организация призвала усилить человеческий надзор за такими системами, сообщает Channel NewsAsia.

Надзор за операциями с повышенным риском

FSB отметила, что в приложениях с повышенным риском более интенсивный контроль со стороны людей имеет критически важное значение. Компаниям рекомендовали установить четкие триггеры, основанные на уровне риска, при которых ИИ-агент должен обращаться за одобрением человека.

Агентные системы ИИ способны планировать и выполнять задачи при ограниченном человеческом надзоре. В июньском проекте рекомендаций FSB предупреждала, что это создает отдельные вызовы для человеческого контроля.

Больше актуальных новостей — в Telegram-канале UA.News Telegram.

Изменения в финальных рекомендациях

В финальной версии документа FSB усилила рекомендации по агентному ИИ. Организация объяснила это отзывами на проект, растущим интересом финансовых учреждений к применению технологии, а также ее специфическими рисками и механизмами контроля.

FSB также исключила рекомендацию рассматривать ИИ как «синтетических работников». Вместо этого финансовым учреждениям предложили учитывать, что ИИ-агенты не мыслят как люди и могут неожиданно интерпретировать заранее определенные цели.