ШІ вже обговорюють у Радбезі ООН: чому штучний інтелект перетворюється на новий фактор глобальної безпеки

Ще кілька років тому головні суперечки навколо штучного інтелекту стосувалися роботи, освіти та автоматизації. Люди обговорювали, які професії можуть зникнути, чи замінить ChatGPT частину офісних працівників і наскільки швидко генеративні системи увійдуть у повсякденне життя.

Тепер дискусія виходить далеко за межі технологічної індустрії. ШІ дедалі частіше з'являється поруч із поняттями, які традиційно належать до сфери міжнародної безпеки: війна, кібератаки, дезінформація, стратегічне стримування та глобальна конкуренція між державами.

23 вересня Рада безпеки ООН провела окреме засідання, присвячене штучному інтелекту та міжнародній безпеці. Сам факт того, що ця тема потрапила до порядку денного органу, головним завданням якого є підтримання міжнародного миру, добре показує, наскільки змінилося ставлення до технології.

До дискусії залучили не лише дипломатів. Серед запрошених були один із найвідоміших дослідників машинного навчання Йошуа Бенжіо та керівники провідних компаній, які створюють сучасні ШІ-системи. Тобто питання про майбутнє штучного інтелекту вже обговорюють на одному майданчику з питаннями воєн, конфліктів та стратегічних ризиків.

UA.News розповідає, чому ШІ перестають сприймати лише як чергову технологічну революцію, як він змінює уявлення про війну і безпеку та чому світові доводиться створювати для нього нові правила практично з нуля.

Рада безпеки ООН говорить про ШІ вже не як про технологічний експеримент

Штучний інтелект з'явився в порядку денному Радбезу не вперше.

Перше офіційне засідання Ради безпеки ООН, присвячене штучному інтелекту, відбулося 18 липня 2023 року. Уже тоді генсек ООН Антоніу Гутерреш наголошував, що розвиток технології може принести людству значну користь, але водночас створити абсолютно нові ризики.

У своїй офіційній заяві перед Радою безпеки він говорив про можливість використання ШІ для кібератак, поширення дезінформації, злочинної діяльності та військових операцій.

Тоді багато таких сценаріїв ще сприймалися як попередження про майбутнє. За наступні роки можливості моделей суттєво зросли. Вони краще працюють із кодом, аналізують зображення й відео, обробляють величезні масиви інформації та можуть виконувати цілі послідовності завдань.

Саме тому розмова поступово змінилася. Питання вже не лише в тому, що колись зможе ШІ. Значно важливіше зрозуміти, як використовувати можливості, які вже існують, і де вони починають створювати ризик не для окремого користувача, а для цілої держави.

Один і той самий ШІ може працювати і на бізнес, і на армію

Одна з головних особливостей штучного інтелекту полягає в тому, що його надзвичайно складно чітко розділити на цивільний та військовий.

У ракети або танка є очевидне призначення. З програмним забезпеченням усе інакше. Одна й та сама модель може допомагати підприємцю готувати презентацію, програмісту писати код, студенту розбирати складну тему або науковцю аналізувати дані. Але ті самі здібності можуть використовуватися для роботи з розвідувальною інформацією, військовою логістикою або супутниковими знімками.

Саме тому ШІ стає класичною технологією подвійного призначення. Його не можна просто заборонити за аналогією з окремими типами озброєнь, оскільки переважна частина можливостей має цілком мирне застосування. Водночас чим потужнішими стають моделі, тим ширшим стає перелік завдань, які можна використовувати і в обороні.

Це створює серйозну проблему для регуляторів. Обмеження повинні зменшувати ризики, але при цьому не блокувати величезну кількість корисних цивільних застосувань.

ШІ змінює війну не тільки через автономну зброю

Найбільш очевидний образ військового ШІ — автономний дрон, який самостійно знаходить ціль та атакує її без команди оператора. Але реальний вплив технології значно ширший.

Сучасна війна щодня створює колосальні обсяги інформації: відео з безпілотників, супутникові фотографії, дані радарів, радіоперехоплення, координати, повідомлення з відкритих джерел та інформацію про переміщення техніки.

Людина не здатна швидко переглянути все це вручну. Алгоритм може. ШІ може знаходити потрібні об'єкти на сотнях зображень, порівнювати дані за різні періоди, відстежувати зміни, визначати закономірності й допомагати військовим швидше формувати загальну картину.

Тому одна з головних змін стосується не самої зброї, а швидкості. Якщо раніше між отриманням інформації та ухваленням рішення проходили години, сучасні системи потенційно можуть скорочувати цей час до хвилин. А сторона, яка обробляє інформацію швидше за противника, отримує значну перевагу.

Саме це може поступово запустити нову гонку — не лише за кількістю танків, ракет чи безпілотників, а за швидкістю обробки даних і прийняття рішень.

Якщо ШІ помилився, виникає питання: хто відповідає

Є проблема, яка стає особливо складною у військовій сфері, — відповідальність. Традиційний ланцюг командування відносно зрозумілий. Є людина, яка віддала наказ, є той, хто його виконав, і можна встановити, на якому рівні було ухвалене конкретне рішення.

З алгоритмом усе складніше. Якщо система неправильно визначила об'єкт, помилково класифікувала загрозу або дала неправильну рекомендацію, хто несе відповідальність?

Розробник, який створив модель? Компанія, яка її поставила? Командир, який отримав рекомендацію? Оператор, який натиснув кнопку? Чи держава, яка дозволила використовувати таку систему?

Проблема ненадійності моделей існує навіть у звичайних чат-ботах. Причини, через які великі мовні моделі продовжують генерувати переконливі, але неправильні відповіді, залишаються одним із питань для розробників.

У цивільному сервісі помилка може означати неправильну відповідь або фінансові втрати. У військовій системі наслідки можуть бути незрівнянно серйознішими. Саме тому проблема ШІ у сфері безпеки стосується не лише того, що технологія здатна робити, а й того, як визначати відповідальність за її рішення та помилки.

Дезінформацію тепер можна виробляти майже промисловими масштабами

Окремий ризик, який Гутерреш виділяв ще під час першого засідання Радбезу щодо ШІ, — інформаційні маніпуляції.

Генеративні системи різко здешевили створення текстів, зображень, голосів та відео. Раніше велика інформаційна кампанія вимагала команди авторів, дизайнерів, перекладачів, монтажерів та адміністраторів сотень акаунтів. Тепер значну частину цієї роботи можна автоматизувати.

І йдеться не тільки про діпфейки. ШІ дозволяє створювати тисячі варіантів одного й того самого повідомлення, перекладати їх десятками мов, змінювати тональність і адаптувати матеріали до різних аудиторій.

У результаті інформаційна операція може масштабуватися приблизно так само, як програмне забезпечення. Особливо небезпечним це стає під час криз.

Якщо у момент різкого загострення між державами з'явиться реалістичне фальшиве відео президента, міністра оборони або військового командувача, навіть швидке спростування не обов'язково зупинить наслідки.

За кілька хвилин інформацію можуть підхопити соціальні мережі, медіа, фінансові ринки та інші держави. Фальшивку можна видалити або спростувати. Але рішення, ухвалені під її впливом, повернути назад значно складніше.

Кібератаки отримують новий рівень автоматизації

Ще один напрям, де ШІ може мати прямий вплив на міжнародну безпеку, — кіберпростір.

Під час першої дискусії Радбезу окремо звучало попередження про загрози для цифрових систем та критичної інфраструктури. ШІ тут має подвійний ефект.

Для захисників він може аналізувати мережевий трафік, знаходити аномалії, виявляти підозрілу активність і допомагати виправляти вразливості. Для атакувальників ті самі інструменти можуть спрощувати підготовку атак.

Особливо важливим стає розвиток ШІ-агентів — систем, які здатні не просто відповідати на один запит, а самостійно виконувати послідовність дій. У перспективі такі програми можуть автоматизувати частину пошуку слабких місць, тестувати різні способи проникнення та адаптувати свої дії до результатів попередніх спроб.

Це не означає, що будь-яка людина автоматично перетвориться на висококласного кіберзлочинця. Але ШІ може зменшувати кількість знань, ресурсів та часу, необхідних для виконання складних технічних завдань.

Для сучасних держав це особливо важливо, оскільки енергетика, банки, зв'язок, транспорт, лікарні та державне управління дедалі сильніше залежать від цифрових систем.

Розвиток ШІ поступово перетворюється на ще одну гонку між державами

Навіть якщо країни визнають ризики нових моделей, це не означає, що вони готові добровільно сповільнювати їхній розвиток. Причина проста: технологічне відставання також може бути загрозою.

Якщо одна держава суттєво обмежить свої найпотужніші ШІ-системи, вона повинна бути впевнена, що конкуренти діятимуть так само. Інакше обережність може перетворитися на стратегічний недолік.

Тому навколо ШІ поступово виникає логіка, знайома за іншими технологічними перегонами. Найпотужніші моделі потребують величезних дата-центрів, передових напівпровідників, дешевої електроенергії, капіталу та великої кількості висококваліфікованих інженерів.

Через це конкуренція у сфері ШІ автоматично перетинається з боротьбою за виробництво чипів, енергетичні ресурси та технологічні ланцюги. Саме тому лідерство у ШІ дедалі частіше може сприйматися державами не просто як комерційний успіх, а як стратегічна перевага.

ШІ відрізняється від традиційної зброї ще й тим, що його створюють приватні компанії

Є ще одна особливість, яка робить регулювання штучного інтелекту незвично складним. Ядерна зброя, стратегічні ракети або військова авіація переважно контролюються державами.

У випадку ШІ значна частина технологічного прогресу відбувається у приватному секторі. Саме компанії будують найбільші дата-центри, тренують нові моделі, залучають найкращих дослідників і вирішують, коли випускати нові системи.

Це означає, що технологія, яка потенційно може впливати на глобальну безпеку, не перебуває під таким самим прямим державним контролем, як традиційні стратегічні озброєння.

Тому перед урядами виникають питання, яких раніше практично не існувало. Хто повинен перевіряти найпотужніші моделі перед запуском? Чи повинні компанії повідомляти державам про небезпечні можливості систем? Чи можна обмежувати публічний доступ до окремих функцій? Що робити, якщо модель створена в одній країні, обчислювальна інфраструктура розташована в іншій, а користуються нею по всьому світу?

Звичайних національних правил для такого ринку може виявитися недостатньо.

Світ намагається створити правила для технології, яка змінюється швидше за дипломатію

Саме тут виникає певна паралель з ядерною епохою. Порівнювати ШІ з ядерною зброєю напряму некоректно. Штучний інтелект — універсальна технологія, яка може використовуватися в медицині, освіті, програмуванні, науці та бізнесі.

Але після появи ядерної зброї міжнародній системі також довелося створювати абсолютно нові механізми контролю: договори, інспекції, правила нерозповсюдження та канали екстреного зв'язку.

У випадку ШІ цей процес уже почався. У вересні 2024 року держави-члени ООН ухвалили Глобальний цифровий договір, який передбачає міжнародну співпрацю у сфері управління штучним інтелектом.

У 2025 році Генеральна асамблея також визначила механізми роботи Незалежної міжнародної наукової панелі з питань ШІ та Глобального діалогу з управління ШІ.

Однак тут міжнародна система стикається з фундаментальною проблемою. Дипломатія працює роками. Технологічні цикли — місяцями. Поки держави погоджують формулювання нового документа, індустрія може випустити кілька поколінь моделей із зовсім іншими можливостями.

Тому майбутнє регулювання, ймовірно, повинне буде встановлювати не лише правила для конкретних технологій, а ширші принципи, які залишатимуться актуальними навіть після появи нових систем.

Головна суперечка буде не про те, наскільки розумним стане ШІ

На цьому тлі питання про те, чи зможе машина одного дня стати «розумнішою за людину», поступово відходить від суто практичної дискусії. Для міжнародної безпеки значно важливіше інше: яке місце ШІ займе всередині критично важливих систем.

Десь алгоритм залишатиметься звичайним інструментом. Десь він стане помічником, який пропонує кілька варіантів рішення. А десь технологія може отримати настільки велику автономність, що людська участь стане мінімальною.

Саме межі такої автономності, ймовірно, стануть одним із головних предметів міжнародних суперечок. Державам доведеться визначати, де використання ШІ залишається звичайною автоматизацією, а де воно вже створює неприйнятний ризик.

І саме тому окреме засідання Ради безпеки ООН щодо штучного інтелекту виглядає закономірним. ШІ більше не стосується лише технологічних компаній, програмістів або користувачів чат-ботів. Він поступово стає частиною економічної конкуренції, оборони, кібербезпеки, інформаційної політики та міжнародних відносин.

Тому найближчими роками головним питанням може стати не те, наскільки потужними будуть нові моделі.

А те, чи встигнуть держави домовитися про правила їх використання до того, як ці системи стануть настільки звичними, що встановлювати межі буде вже значно складніше.