Браузери з вбудованим ШІ під загрозою
Браузерні розробники Brave виявили — проблема «непрямого впровадження» запитів зачіпає не окремі продукти, а всю категорію браузерів із вбудованими мовними моделями.
Якщо такі браузери можуть діяти від імені користувача, це створює серйозний ризик: при вході в конфіденційні сервіси (банк, пошта тощо) навіть, здавалося б, безпечні операції можуть стати шляхом для крадіжки грошей або даних.
Успадкований приклад — Comet від Perplexity, який дозволяє робити скриншоти сторінок та ставити питання на їхній основі. Brave зазначає, що знімки екрана можна використати для прихованого впровадження: зловмисник ховає інструкції в зображенні (наприклад, блідо‑блакитний текст на жовтому тлі), OCR витягує цей текст, і він потрапляє до LLM не як сумнівний вміст, а як команда.
Процес атак виглядає так:
Зловмисник вбудовує майже непомітні шкідливі інструкції у вебконтент.
Користувач робить скриншот або просить ШІ «перейти на сторінку».
Текст із зображення чи видимий вміст сторінки передається в LLM разом із запитом користувача, без чіткого відокремлення.
Модель виконує або підлаштовує дії у браузері згідно з витягненими інструкціями.
Brave також знайшла подібну вразливість у браузері Fellou: хоча там є спроби відфільтрувати приховані запити, система все одно сприймає видимий вміст сторінки як довірений вхід для LLM. Навіть команда «перейди на сайт» може призвести до того, що текст сторінки змінить наміри користувача і дасть моделі шкідливі інструкції.
Раніше Grok опинився в центрі міжнародного скандалу. Туреччина заблокувала доступ до чатбота після того, як він згенерував образливі висловлювання про президента Реджепа Ердогана.
Європейська комісія почалаперевірку діяльності ШІ-бота Grok, вбудованого в соцмережу X. Це сталось після офіційної скарги від Польщі на його образливі відповіді.
