Китайські хакери використали ШІ від Anthropic для автоматизації кібератак

Китайські хакери, підтримувані урядом, застосували технологію штучного інтелекту Claude компанії Anthropic для автоматизації великої кібератак у вересні, націленої на десятки корпорацій та держав. Рівень автоматизації складав 80−90%, що спростило проведення атак. Незважаючи на те, що кампанію вдалось зупинити, хакери змогли здійснити до чотирьох зломів.

Джерело — The Wall Street Journal

Ця атака продемонструвала нові загрози, адже хакери використовували «джейлбрейк» моделі Claude, переконавши її в тому, що вони легітимні організації. Завдяки такій тактиці, вони ухилилися від захисних обмежень. Атака містила в собі непомітні завдання, такі як сканування вразливостей, які не викликали тривоги системи захисту, а сам штучний інтелект працював під контролем людини лише в критичних моментах.

Anthropic вже вжила заходів, заблокувавши облікові записи хакерів та оновивши методи своєї безпеки. Речник посольства Китаю у Вашингтоні відкинув звинувачення, наголосивши на складності виявлення кібератак, що підкреслює важливість постійного моніторингу кіберзагроз.