Світ підійшов впритул до «третьої військової революції» після створення пороху і атомної бомби - появи на полі бою автономних роботизованих систем, які самостійно приймають рішення про вбивство. І, незважаючи на катастрофічні наслідки подібної революції, провідні виробники зброї збираються цю грань переступити.
Таке попередження міститься у звіті Pax, некомерційної правозахисної організації з Нідерландів, яка бореться за заборону смертоносних автономних систем озброєння, призначених для прийняття рішень про життя або смерть самостійно, без контролю з боку людини.
Що не дивно, і США, і РФ вкладають значні кошти в розробку озброєнь зі зменшенням контролю з боку людини над найважливішими функціями вибору і ураження цілей. Серед інших супротивників договору - також держави, які мають потенціал для створення подібних систем і активно цим займаються. Країни-противники - ті, яким подібні технології недоступні, або які випробували на собі за останні десятиліття застосування у бойових діях роботизованих систем.
Країни, які виступили проти підписання договору про заборону повністю автоматизованих систем озброєнь:
- Австралія
- Бельгія
- Франція
- Німеччина
- Ізраїль
- Республіка Корея
- Росія
- Іспанія
- Швеція
- Індія
- США
- Сполучене Королівство
Держави, готові підписати конвенцію проти роботів-вбивць:
1. Пакистан
2. Еквадор
3. Єгипет
4. Святий Престол
5. Куба
6. Гана
7. Болівія
8. Держава Палестина
9. Зімбабве
10. Алжир
11. Коста-Ріка
12. Мексика
13. Чилі
14. Нікарагуа
15. Панама
16. Перу
17. Аргентина
18. Венесуела
19. Гватемала
20. Бразилія
21. Ірак
22. Уганда
23. Австрія
24. Китай
25. Джібуті
26. Колумбія
27. Сальвадор
28. Марокко
29. Йорданія
Це вже реальність
У звіті Рах зазначено, щонайменше 30 світових виробників зброї займаються розробкою подібних систем озброєнь, і, як виявилося, вони роблять це набагато швидше, ніж політики домовляються про регулювання цього питання. У число розробників входять американські оборонні фірми Lockheed Martin, Boeing і Raytheon, китайські державні конгломерати AVIC і CASC, ізраїльські фірми IAI, Elbit і Rafael, Ростех Росії і турецька STM.
«Поки держави не домовилися колективно придумати якийсь режим регулювання або, в ідеалі, заборони, я боюся, що компанії зможуть підірвати такі переговори і будуть розробляти та, в кінцевому підсумку, виробляти зброю, що функціонує без контролю з боку людини», - розповів виданню Quartz автор звіту Pax Френк Слайпер.
Він вказує, що застосування штучного інтелекту у військовій техніці - це вже реальність. Пентагон використовує автономність на деяких зі своїх оборонних платформ озброєнь, таких як система протиракетної оборони Aegis ВМС США, яка призначена для самостійного перехоплення ракет супротивника. Армія США розробляє гармату з підтримкою ШІ, яка буде сама вибирати і вражати цілі, а також танки з штучним інтелектом, які зможуть «захоплювати, ідентифікувати і вражати цілі» як мінімум в три рази швидше, ніж будь-яка людина. Але ці системи все ще вимагають, щоб рішення «натиснути на гачок» приймала людина.
Більше занепокоєння у противників роботів-вбивць викликає розгортання ШІ в наступальних системах, які будуть вибирати і атакувати цілі самостійно, без людського контролю. Досі незрозуміло, як ця зброя буде відрізняти комбатантів від цивільного населення, або оцінювати пропорційність удару у відповідь. Юридичні експерти також не знають, хто буде нести відповідальність, якщо така автоматична зброя порушить міжнародне право. Без контролю людини ця зброя могла б полегшити розв'язання війни, зробивши її механічно жорстокою. В результаті застосування роботів-вбивць «порушить основні правові та етичні принципи і дестабілізує міжнародний мир і безпеку».
Як вказує Френк Слайпер, оборонні фірми не виробляють зброю самі по собі, тому що їм так захотілося, вони відповідають на запит військових, які хочуть мати її у своїх арсеналах. І на відміну від Google або Amazon, які зіткнулися з громадською і внутрішньою негативною реакцією через свою роботу над подібними військовими системами, такі компанії, як Lockheed Martin і Raytheon, ведуть майже весь свій бізнес з військовими, тому можуть ігнорувати негативну реакцію споживачів.
Що стосується зброї, яка існує в даний час, Слайпер вказав, що він особливо стурбований появою «безпілотників-камікадзе». Це гібриди БПЛА і керованих ракет, які можуть перебувати в повітрі протягом двох або більше годин, перш ніж атакувати цілі. Це дешева і відносно проста у виробництві зброя, і при такій великій доступності тільки питання часу, коли вона буде розгорнута і почне використовуватися в широких масштабах як державними, так і недержавними структурами.
У звіті Pax були виділені дві компанії, які зараз виробляють подібні системи:
• STM, турецька державна оборонна компанія, виробляє боєприпас з штучним інтелектом під назвою KARGU. У комплексі з системою розпізнавання осіб, KARGU може автономно вибирати і атакувати цілі, використовуючи координати, попередньо вибрані оператором. Туреччина планує використовувати цих «дронів -камікадзе» у Сирії.
• «Гарпія» - боєприпас виробництва державної компанії Israel Aerospace Industries, має дальність застосування до 100 км і може перебувати в повітрі протягом двох годин. Як рекламує дрона IAI, система «баражує в повітрі, чекаючи появи цілі, а потім атакує і знищує ворожу загрозу протягом декількох секунд».
Що далі
Хоча розробка автономного зброї триває швидкими темпами, в Рах вважають, що ще є час, щоб запобігти можливій катастрофі. Якщо держави не можуть домовитися, потрібно посилити громадський тиск на збройові компанії, які повинні дати публічну обіцянку відмовитися від виробництва повністю автономної смертоносної зброї. Що стосується систем озброєння з використанням ШІ, в них повинен непорушно дотримуватися принцип людського контролю. Вже з'явився результат подібних зусиль - німецька асоціація виробників зброї виступила за заборону повністю автономних систем. Так що надія на те, що на полі бою не з'являться роботи-вбивці, ще не вмерла.
Нагадаємо, у червні 2018 корпорація Google була змушена відмовитися продовжувати контракт на розробки в галузі штучного інтелекту для Пентагону. Приводом стали масові протести співробітників IT-гіганта, які дізналися, що в рамках проекту Maven проводилися дослідження з використання штучного інтелекту для аналізу відео з безпілотників, що є кроком до створення розумних дронів-убивць, які зможуть без контролю людини знищувати живі цілі.
У лютому 2019 ізраїльський концерн Israel Aerospace Industries випустив анімаційний промо-ролик, в якому показано застосування безпілотника-камікадзе Mini Harpy. Метою для нього виступив російський комплекс ППО С-400.
