Эксперты США и Китая предложили ограничения для военного ИИ — Jerusalem Post
Эксперты из США и Китая призвали Вашингтон и Пекин готовиться к инцидентам с участием автономных систем искусственного интеллекта. Такие системы могут вмешиваться в сети ядерного командования или проводить военные кибероперации, оставляя правительствам лишь минуты, чтобы выяснить, были ли эти действия случайными, несанкционированными или приказанными другой стороной, сообщает The Jerusalem Post.
Рекомендации подготовили старшая научная сотрудница Brookings Institution Мелани Сиссон и доцент Фуданьского университета Тяньцзяо Цзян. Они участвуют в диалоге США и Китая по ИИ и национальной безопасности, который с 2019 года проводят Brookings Institution и Центр международной безопасности и стратегии Университета Цинхуа.
Человеческий контроль над кибератаками
Сиссон предложила оставить за людьми исключительное право инициировать кибератаки с применением ИИ против систем ядерного командования, управления и связи другой страны или ее стратегически важной инфраструктуры. По оценке экспертов, автономная система может дать сбой, выйти за пределы инструкций или быть скомпрометирована, а сторона, подвергшаяся атаке, может не сразу установить ее причину.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Цзян предложил установить четкие ограничения, которые не позволят ИИ самостоятельно принимать решения о применении ядерного оружия или автономно атаковать системы ядерного командования. Он также выступил за защиту критической инфраструктуры, в частности энергетики, финансового сектора и здравоохранения, а также за совместное определение понятия «значимый человеческий контроль».
Горячая линия для инцидентов с ИИ
Цзян также предложил создать отдельную военную горячую линию между США и Китаем для инцидентов с участием ИИ. Он предупредил, что автоматизированный обмен кибердействиями может развиваться слишком быстро для вмешательства человека: оборонная система одной страны способна отреагировать на подозрительную активность, а другая сторона — воспринять эту реакцию как нападение и ответить до выяснения обстоятельств.
Ни одно из правительств публично не поддержало предложения Brookings Institution и Университета Цинхуа. В то же время посол Китая по вопросам разоружения Шэнь Цзянь заявил в июне на заседании ООН в Женеве, что военный ИИ может влиять на стратегическую стабильность и усиливать риски просчетов и эскалации конфликтов.
