Експерти США і Китаю запропонували обмеження для військового ШІ — Jerusalem Post
Експерти зі США та Китаю закликали Вашингтон і Пекін готуватися до інцидентів за участі автономних систем штучного інтелекту. Такі системи можуть втручатися в мережі ядерного командування або проводити військові кібероперації, залишаючи урядам лише хвилини, щоб з’ясувати, чи були ці дії випадковими, несанкціонованими або наказаними іншою стороною, повідомляє Jerusalem Post.
Рекомендації підготували старша наукова співробітниця Brookings Institution Мелані Сіссон і доцент Фуданьського університету Тяньцзяо Цзян. Вони беруть участь у діалозі США і Китаю щодо ШІ та національної безпеки, який від 2019 року проводять Brookings Institution і Центр міжнародної безпеки та стратегії Університету Цінхуа.
Людський контроль над кібератаками
Сіссон запропонувала залишити за людьми виключне право ініціювати кібератаки із застосуванням ШІ проти систем ядерного командування, управління та зв’язку іншої країни або її стратегічно важливої інфраструктури. Автономна система, за оцінкою експертів, може дати збій, вийти за межі інструкцій або бути скомпрометованою, а сторона, що зазнала атаки, може не одразу встановити її причину.
Більше актуальних новин читайте у Telegram-каналі UA.News.
Цзян запропонував установити чіткі обмеження, які не дозволятимуть ШІ самостійно ухвалювати рішення про застосування ядерної зброї або автономно атакувати ядерні командні системи. Також він виступив за захист критичної інфраструктури, зокрема енергетики, фінансового сектору та охорони здоров’я, і за спільне визначення поняття «змістовний людський контроль».
Гаряча лінія для інцидентів із ШІ
Цзян також запропонував створити окрему військову гарячу лінію між США та Китаєм для інцидентів за участі ШІ. За його застереженням, автоматизований обмін кібердіями може розвиватися надто швидко для втручання людини: оборонна система однієї країни здатна відреагувати на підозрілу активність, а інша сторона — сприйняти цю реакцію як напад і відповісти до з’ясування обставин.
Жоден з урядів публічно не підтримав пропозиції Brookings Institution та Університету Цінхуа. Водночас посол Китаю з питань роззброєння Шень Цзянь заявив у червні на засіданні ООН у Женеві, що військовий ШІ може впливати на стратегічну стабільність і посилювати ризики прорахунків та ескалації конфліктів.
