Meta устранила уязвимость Muse, позволявшую контролировать ИИ-агента — The Verge
Meta выпустила обновление для приложения Muse на macOS после обнаружения уязвимости нулевого дня, которая могла позволить злоумышленнику взять под контроль ИИ-агента. Как сообщает The Verge, для использования ошибки требовался локальный доступ к устройству пользователя, однако она могла открыть доступ к учетной записи Muse.
Как работала уязвимость
Исследователь кибербезопасности Патрик Уордл обнаружил, что проблема была связана с недокументированной настройкой Muse. Она позволяла программе, которая уже выполняла код локально на компьютере, перенаправить обработку транскрипции с серверов Meta на конечную точку, контролируемую злоумышленником. Это могло предоставить потенциальному атакующему доступ к учетной записи Muse.
По данным издания, появлению уязвимости способствовали несколько особенностей дизайна приложения: диктовка в Muse обрабатывалась в облаке, а любая программа могла управлять всеми недокументированными настройками Muse.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Демонстрация атаки и реакция Meta
Во время тестирования Уордл создал демонстрационные атаки, которые позволяли делать фотографии через Muse и записывать на диск вредоносные файлы. Во многих случаях приложение не предупреждало пользователя о таких действиях.
Уордл заявил Ars Technica, что злоумышленник мог манипулировать агентом и использовать его привилегии для выполнения различных действий, не создавая отдельное сложное вредоносное программное обеспечение для macOS. Meta устранила проблему в течение нескольких часов после публикации материала Ars Technica. В компании отметили, что речь шла о локальном повышении привилегий, а не об удаленной атаке, поэтому, по оценке Meta, практические риски для безопасности были минимальными.
