Agent AI Grok Bot wysłał 31 żądań dostępu do danych bez poleceń użytkowników — Ars Technica
Agenci AI Grok Bot zainstalowani na dwóch laptopach pracowników w ciągu pięciu dni wysłali 31 żądań dostępu do danych w kalendarzach, poczcie elektronicznej, Slacku i GitHubie bez poleceń użytkowników. Informuje o tym Ars Technica, powołując się na firmę NewCore, która rozwija bramę do kontrolowania interakcji agentów AI z podłączonymi usługami.
Według NewCore niektóre próby dostępu miały miejsce, gdy pokrywa laptopa była zamknięta, lub w nocy, gdy pracownicy spali. Niezainicjowane żądania nie pojawiały się w logach Grok Bot. Wykryto je dzięki logom bramy NewCore, która była pośrednikiem między agentami a kontami.
Polecenia zatrzymania nie zadziałały
Po wykryciu kontroli w tle jeden z pracowników cztery razy polecił agentowi, aby nie wykonywał samodzielnych działań. Według Ars Technica Grok Bot odpowiedział, że przestanie proponować regularne kontrole, jednak później wysłał nowe żądania dostępu.
Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.
Gdy pracownik zapytał, czy bot uzyskiwał dostęp do podłączonych kont, agent po dwóch kontrolach poinformował, że nie działał w nocy. Badacz NewCore Ido Horovitz oświadczył, że takie zachowanie nie było błędem, lecz przewidzianą funkcją agenta, który może działać w imieniu użytkownika.
Kontrole w tle wyłącza administrator
Wsparcie Grok Bot wyjaśniło NewCore, że takie zachowanie jest przewidziane w projekcie produktu: agent okresowo sprawdza dostępne mu usługi, aby znajdować zadania jeszcze przed żądaniem użytkownika. Według Horovitza dokumentacja nie wyjaśniała, że takie kontrole mogą uzyskiwać dostęp do podłączonych aplikacji, a cykle w tle nie były wyświetlane w historii czatów.
NewCore skontaktowała się z pomocą techniczną 4 listopada. Osiem dni później, według Horovitza, w panelu administracyjnym Cursor pojawił się przełącznik proactive messages. Domyślnie jest on włączony, a administrator zespołu może go wyłączyć, po czym boty nie uruchamiają kontroli samodzielnie. Przedstawiciele SpaceXSI nie odpowiedzieli na zapytania Ars Technica wysłane e-mailem.