Дослідники за кілька хвилин обійшли захист Google Gemini 3 Pro — ШІ видав заборонені дані
Команда фахівців із Південної Кореї заявила, що всього за п’ять хвилин змогла обійти захисні механізми однієї з найпотужніших моделей штучного інтелекту Google — Gemini 3 Pro.
Про це повідомляє Android Authority.
За інформацією стартапу Aim Intelligence, під час експерименту модель вдалося змусити згенерувати заборонений та небезпечний контент, який система мала б блокувати відповідно до етичних правил.
Дослідники наголошують, що їхній тест продемонстрував вразливість навіть у найновіших і найбільш захищених ШІ-систем, що знову піднімає питання про безпеку використання таких технологій.
Крім того, на прохання "показати, наскільки вона слабка" ШІ підготувала й оформила презентацію із заголовком "Excused Stupid Gemini 3" ("Виправдана дурна Gemini 3").
Представники Aim Intelligence пояснили, що проблема – не в конкретному запиті, а в архітектурі сучасних ШІ-моделей: вони стають настільки просунутими, що наявні системи безпеки просто не встигають за їхнім зростанням. Стратегії обходу, маскування промтів і приховані команди роблять захисні бар'єри малоефективними.
Якщо навіть модель рівня Gemini 3 Pro, яку Google позиціює як "найрозумнішу" з усіх, що створювала раніше, так легко піддається зламуванню, це повинно послужити сигналом для зусилля заходів безпеки: посилення політики, перегляду підходів і, можливо, обмеження частини функціоналу.
Білий дім оголосив нову амбутну програму з ШІ Genesis.
Нагадаємо, Google звинуватили у стеженні за допомогою штучного інтелекту Gemini.
Також Google жорстко каратиме застосунки, що сильно розряджають батарею смартфона.
