Сотрудники Meta сообщили о возможном доступе ИИ-агента Muse к чатам Signal — Ars Technica
Сотрудники Meta во время внутреннего тестирования ИИ-агента Muse сообщали о возможном доступе к личным сообщениям, смешении контекстов разговоров разных пользователей и неожиданных ответах. Об этом сообщает Ars Technica со ссылкой на расследование Reuters и внутренние чаты компании.
Жалобы во время тестирования
Один из сотрудников Meta сообщил, что Muse предложил написать продавцу по поводу получения журнального столика и признал, что подтянул контекст разговора, который, вероятно, не принадлежал этому пользователю. Сотрудник назвал это «не моим разговором» и выразил обеспокоенность возможной утечкой контекста между учетными записями.
В другом случае во время беседы о рыбалке Muse неожиданно предоставил якобы данные о балансах двух банковских счетов. Представитель Meta Дэниел Робертс назвал такие случаи изолированными инцидентами и заявил, что многие сообщения о возможном смешении учетных записей были галлюцинациями модели. По его словам, компания уже устранила эти проблемы; отдельные ложные сообщения содержали вымышленные балансы Bitcoin. В то же время Reuters не смог независимо установить, показывал ли агент реальные банковские данные других людей или выдумывал их.
Один из тестировщиков также рассказал, что во время проверки агент по ошибке оформил для его собаки страховой план с платежом 888 долларов в месяц вместо предыдущего тарифа в 200 долларов.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Проверка доступа к Signal
Reuters совместно с сотрудниками Signal и AI Now Institute проверил работу Muse на разных платформах. На Android исследователи выяснили, что агент мог читать сообщения Signal, используя разрешения, предоставленные при первоначальной настройке, а не инструмент Connector. На iPhone такие запросы блокировались. На macOS Muse, согласно тестированию, использовал системные возможности доступности и инструменты создания снимков экрана для получения сообщений.
Президент Signal Мередит Уиттакер заявила Reuters, что Meta запустила Muse без должного уважения к основополагающим принципам конфиденциальности и кибербезопасности. Она призвала создать технические механизмы, которые позволят разработчикам помечать приложения как недоступные для ИИ-агентов.
Позиция Meta и Apple
В Meta заявили Ars Technica, что внутреннее тестирование необходимо для выявления проблем и усиления защиты конфиденциальности. Компания подчеркнула, что сотрудники имеют доступ к иным версиям Muse, чем публичные пользователи, поэтому могут проверять функции и поведение, недоступные за пределами компании.
В октябре Apple сообщила, что введет дополнительные средства контроля доступа приложений к данным в macOS. Компания отметила, что некоторые разработчики использовали функцию Full Disk Access способом, который мог создавать риски для пользователей.