Лепассаар заявив, що ШІ-агенти не діють незалежно — ERR News

В Естонії очільник Агентства ЄС з кібербезпеки Юхан Лепассаар заявив, що побоювання про самостійні дії ШІ-агентів і їхній вихід з-під людського контролю є перебільшеними. Ризики виникають, коли люди неправильно налаштовують такі системи, задають їм надто гнучкі інструкції або надають надмірну свободу дій, повідомляє ERR News.

ШІ посилює можливості зловмисників

Лепассаар пояснив, що ШІ-агенти — це програми, які використовують великі мовні моделі для планування, аналізу та коригування дій до досягнення мети. Вони не є свідомими та не діють незалежно, однак можуть намагатися виконати поставлене завдання поза початковими параметрами.

За його словами, сучасні моделі здатні суттєво посилити можливості хакерів. Системи, навчені на мільйонах і мільярдах рядків відкритого програмного коду, добре знаходять уразливості та можуть допомагати їх експлуатувати. Водночас виправлення таких проблем зазвичай потребує більше часу й людського втручання.

Більше актуальних новин читайте у Telegram-каналі UA.News.

Кіберзлочинці також використовують ШІ для інформаційних маніпуляцій і шахрайства. Технології дають змогу створювати переконливі синтетичні голоси та зображення, щоб виманювати коди доступу, дані або іншу інформацію, яку згодом можуть використати для вимагання грошей.

Відповідальність розробників

Очільник агентства зазначив, що в Європі діє рамковий підхід, який розподіляє пов’язані зі ШІ послуги та види діяльності за рівнем ризику. Він також визначає відповідальність розробників і тих, хто впроваджує такі системи, зокрема щодо налаштування та використання технологій для зменшення ризиків.

Лепассаар додав, що новітні моделі можуть поєднувати кілька незначних уразливостей для проникнення в програмну систему, хоча основні методи тестування програмного забезпечення не є новими. Звичайним користувачам він порадив не передавати інформацію третім особам і не переходити за різними посиланнями.