Мир подошел вплотную к «третьей военной революции» после создания пороха и атомной бомбы – появлению на поле боя автономных роботизированных систем, самостоятельно принимающих решение об убийстве. И, несмотря на катастрофические последствия такой революции, ведущие производители оружия собираются эту грань переступить.
Такое предупреждение содержится в отчете Pax , некоммерческой правозащитной организации из Нидерландов, которая борется за запрет смертоносных автономных систем вооружения, предназначены для принятия решений о жизни или смерти самостоятельно, без контроля со стороны человека.
Что не удивительно, и США, и РФ вкладывают значительные средства в разработку вооружений с уменьшением контроля со стороны человека над важнейшими функциями выбора и поражения целей. Среди остальных противников договора – также государства, которые имеют потенциал для создания подобных систем и активно этим занимаются. Страны-противники – те, которым подобные технологии недоступны, либо испытавшие на себе за последние десятилетия применение в боевых действиях роботизированных систем.
Страны, которые выступили против подписания договора о запрете полностью автоматизированных систем вооружений:
- Австралия
- Бельгия
- Франция
- Германия
- Израиль
- Республика Корея
- Россия
- Испания
- Швеция
- Индия
- Соединенные Штаты
- Соединенное Королевство
Государства, готовые подписать конвенцию против роботов-убийц:
- Пакистан
- Эквадор
- Египет
- Святой Престол
- Куба
- Гана
- Боливия
- Государство Палестина
- Зимбабве
- Алжир
- Коста-Рика
- Мексика
- Чили
- Никарагуа
- Панама
- Перу
- Аргентина
- Венесуэла
- Гватемала
- Бразилия
- Ирак
- Уганда
- Австрия
- Китай
- Джибути
- Колумбия
- Сальвадор
- Марокко
- Иордания
Это уже реальность
В отчете Рах указано, что по крайней мере, 30 мировых производителей оружия занимаются разработкой подобных систем вооружений, и, как оказалось, они делают это гораздо быстрее, чем политики договариваются о регулировании этого вопроса. В число разработчиков входят американские оборонные фирмы Lockheed Martin, Boeing и Raytheon, китайские государственные конгломераты AVIC и CASC, израильские фирмы IAI, Elbit и Rafael, Ростех России и турецкая STM.
«Пока государства не договорились коллективно придумать какой-то режим регулирования или, в идеале, запрета, я боюсь, что компании смогут подорвать такие переговоры и будут разрабатывать и, в конечном итоге, производить оружие, функционирующее без контроля со стороны человека», - рассказал изданию Quartz автор отчета Pax Фрэнк Слайпер.
Он указывает, что применение искусственного интеллекта в военной техники - это уже реальность. Пентагон использует полную автономность на некоторых из своих оборонительных платформ вооружений, таких как система противоракетной обороны Aegis ВМС США, которая предназначена для самостоятельного перехвата ракет противника. Армия США разрабатывает пушку с поддержкой ИИ , которая будет сама выбирать и поражать цели, а также танки с искусственным интеллектом, которые смогут «захватывать, идентифицировать и поражать цели» как минимум в три раза быстрее, чем любой человек. Но эти системы все еще требуют, чтобы решение «нажать на курок» принимал человек.
Большее беспокойство у противников роботов-убийц вызывает развертывание ИИ в наступательных системах, которые будут выбирать и атаковать цели самостоятельно, без человеческого контроля. До сих пор непонятно, как это оружие будет отличать комбатантов от гражданского населения, или оценивать пропорциональность ответного удара. Юридические эксперты также не знают, кто будет нести ответственность, если такое автоматическое оружие нарушит международное право. А без контроля человека это оружие могло бы облегчить развязывание войны, сделав ее механически жестокой. В результате применение роботов-убийц «нарушит основополагающие правовые и этические принципы и дестабилизирует международный мир и безопасность».
Как указывает Фрэнк Слайпер, оборонные фирмы не производят оружие сами по себе, потому что им так захотелось, они отвечают на запрос военных, которые хотят иметь его в своих арсеналах. И в отличие от Google или Amazon, которые столкнулись с общественной и внутренней негативной реакцией за свою работу над военными системами, такие компании, как Lockheed Martin и Raytheon, ведут почти весь свой бизнес с военными, поэтому могут игнорировать негативную реакцию потребителей.
Что касается оружия, которое существует в настоящее время, Слайпер сказал, что он особенно обеспокоен «беспилотниками-камикадзе». Это гибриды БПЛА и управляемых ракет, которые могут находиться в воздухе в течение двух или более часов, прежде чем атаковать цели. Это дешевое и относительно простое в производстве оружие, и при такой большой доступности только вопрос времени, когда оно будет развернуто и использоваться в широких масштабах как государственными, так и негосударственными структурами.
В отчете Pax были выделены две компании, которые сейчас производят подобные системы:
- STM, турецкая государственная оборонная компания, производит боеприпас с искусственным интеллектом под названием KARGU . В комплексе с системой распознавания лиц, KARGU может автономно выбирать и атаковать цели, используя координаты, предварительно выбранные оператором. Турция планирует использовать этих «дронов -камикадзе» в Сирии.
- «Гарпия» - боеприпас производства государственной компании Israel Aerospace Industries, имеет дальность применения до 100 км и может находиться в воздухе в течение двух часов. Как рекламирует дрона IAI, система «барражирует в воздухе, ожидая появления цели, а затем атакует и уничтожает враждебную угрозу в течение нескольких секунд».
Что дальше
Хотя разработка автономного оружия продолжается быстрыми темпами, в Рах считают, что еще есть время, чтобы предотвратить возможную катастрофу. Если государства не могут договориться, нужно усилить общественное давление на оружейные компании, которые должны дать публичное обещание отказаться от производства полностью автономного смертоносного оружия. Что касается систем вооружения с использованием ИИ, в них должен незыблемо соблюдаться принцип человеческого контроля. Уже появился результат подобных усилий - немецкая ассоциация производителей оружия выступила за запрет полностью автономных систем. Так что надежда на то, что на поле боя не появятся роботы-убийцы, еще есть.
Напомним, в июне 2018 корпорация Google была вынуждена отказаться продлевать контракт на разработки в области искусственного интеллекта для Пентагона. Поводом стали массовые протесты сотрудников IT-гиганта, которые узнали, что в рамках проекта Maven проводились исследования по использованию искусственного интеллекта для анализа видео с беспилотников, что является шагом к созданию разумных дронов-убийц, которые смогут без контроля человека уничтожать живые цели.
В феврале 2019 израильский концерн Israel Aerospace Industries выпустил анимационный промо-ролик, в котором показано применение беспилотника-камикадзе Mini Harpy. Целью для него выступил российский комплекс ПВО С-400.
