Власти Сингапура предупредили о рисках персональных ИИ-агентов — Channel NewsAsia
Власти Сингапура предостерегли пользователей персональных ИИ-агентов от предоставления таким сервисам широкого доступа к приложениям и онлайн-аккаунтам. Совместные рекомендации 6 ноября опубликовали Агентство кибербезопасности Сингапура (CSA), GovTech и Управление развития инфокоммуникаций и медиа (IMDA), сообщает Channel NewsAsia.
Ведомства отметили, что персональные ИИ-агенты, в отличие от обычных чат-ботов, могут действовать от имени пользователя. Они способны подключаться к электронной почте, календарю, контактам, файлам и другим сервисам, просматривать сайты, управлять электронными письмами и делать бронирования. Среди примеров таких агентов были названы Dots, Hermes, Muse, Grok Bot и OpenClaw.
Доступ только к необходимым сервисам
В зависимости от предоставленных разрешений ИИ-агент может получать и раскрывать чувствительную персональную информацию, допускать ошибки или выполнять нежелательные для пользователя действия, предупредили учреждения. Некоторые агенты также могут работать в фоновом режиме, а злоумышленники могут попытаться ввести их в заблуждение вредоносными инструкциями, скрытыми на сайтах, в электронных письмах или сообщениях.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Пользователям советуют подключать только те приложения и аккаунты, которые действительно нужны для конкретной задачи, и по возможности дополнительно ограничивать доступ в рамках каждого сервиса. Не рекомендуется предоставлять агентам доступ к банковским, государственным или медицинским аккаунтам, а также передавать им данные кредитных карт, пароли, коды доступа или одноразовые коды подтверждения.
Контроль важных действий
Ведомства рекомендуют начинать с ограниченных разрешений или режимов только для чтения и требовать отдельного подтверждения перед действиями, которые могут иметь существенные последствия. В частности, речь идет об отправке сообщений, удалении файлов, публикации контента или покупках. Разрешения следует изменять в настройках приложений, а не полагаться исключительно на команды, данные агенту в чате.
Пользователям также советуют регулярно проверять предоставленные доступы и учетные данные, отзывать ненужные разрешения и следить за активностью агентов. Если сервис ведет себя неожиданно или есть подозрение на раскрытие информации, следует остановить текущую задачу, отключить связанные аккаунты и проверить изменения, которых пользователь не совершал. Власти подчеркнули, что в зависимости от обстоятельств и применимого законодательства пользователи могут нести ответственность за действия, выполненные агентами от их имени.
