Pracownicy Meta zgłosili możliwy dostęp agenta AI Muse do czatów Signal — Ars Technica
Pracownicy Meta podczas wewnętrznych testów agenta AI Muse zgłaszali możliwy dostęp do prywatnych wiadomości, mieszanie kontekstów rozmów różnych użytkowników oraz nieoczekiwane odpowiedzi. Informuje o tym Ars Technica, powołując się na śledztwo Reutersa i wewnętrzne czaty firmy.
Skargi podczas testów
Jeden z pracowników Meta poinformował, że Muse zaproponował napisanie do sprzedawcy w sprawie odbioru stolika kawowego i przyznał, że pobrał kontekst rozmowy, która prawdopodobnie nie należała do tego użytkownika. Pracownik nazwał to „nie moją rozmową” i wyraził obawy dotyczące możliwego wycieku kontekstu między kontami.
W innym przypadku, podczas rozmowy o wędkarstwie, Muse niespodziewanie podał rzekome dane o saldach dwóch rachunków bankowych. Rzecznik Meta Daniel Roberts nazwał takie przypadki odizolowanymi incydentami i stwierdził, że wiele zgłoszeń o możliwym mieszaniu kont było halucynacjami modelu. Według niego firma już usunęła te problemy; niektóre fałszywe zgłoszenia zawierały zmyślone salda Bitcoin. Jednocześnie Reuters nie zdołał niezależnie ustalić, czy agent pokazywał rzeczywiste dane bankowe innych osób, czy je wymyślał.
Jeden z testerów powiedział również, że podczas testów agent omyłkowo wykupił dla jego psa plan ubezpieczeniowy z opłatą 888 dolarów miesięcznie zamiast wcześniejszej stawki 200 dolarów.
Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.
Sprawdzenie dostępu do Signal
Reuters wraz z pracownikami Signal i AI Now Institute sprawdził działanie Muse na różnych platformach. Na Androidzie badacze ustalili, że agent mógł czytać wiadomości Signal, wykorzystując uprawnienia przyznane podczas początkowej konfiguracji, a nie narzędzie Connector. Na iPhonie takie żądania były blokowane. Na macOS Muse, według testów, wykorzystywał systemowe funkcje dostępności oraz narzędzia do tworzenia zrzutów ekranu w celu uzyskania wiadomości.
Prezeska Signal Meredith Whittaker powiedziała Reutersowi, że Meta uruchomiła Muse bez należytego poszanowania podstawowych zasad prywatności i cyberbezpieczeństwa. Wezwała do stworzenia mechanizmów technicznych, które pozwalałyby deweloperom oznaczać aplikacje jako niedostępne dla agentów AI.
Stanowisko Meta i Apple
Meta oświadczyła Ars Technica, że wewnętrzne testy są potrzebne do wykrywania problemów i wzmacniania ochrony prywatności. Firma podkreśliła, że pracownicy mają dostęp do innych wersji Muse niż użytkownicy publiczni, dzięki czemu mogą testować funkcje i zachowania niedostępne poza firmą.
W październiku Apple poinformował, że wprowadzi dodatkowe środki kontroli dostępu aplikacji do danych w systemie macOS. Firma zaznaczyła, że niektórzy deweloperzy wykorzystywali funkcję Full Disk Access w sposób, który mógł stwarzać ryzyko dla użytkowników.