В Конгрессе США предупредили о контроле над военным ИИ — Defense News
В Вашингтоне, США, участники слушаний в Конгрессе заявили, что системы искусственного интеллекта могут ускорять идентификацию целей и рекомендации по ударам настолько, что у человека не будет достаточно времени для их проверки или вмешательства. Об этом сообщает Defense News.
На слушаниях Комиссии Тома Лантоса по правам человека, посвященных последствиям применения ИИ в военной сфере, исследовательница управления ИИ Анна Мысишин подчеркнула, что формальное одобрение решения оператором само по себе не свидетельствует о сохранении контроля. По ее словам, в Украине ИИ может сократить процесс принятия решений с часов до минут.
Время для человеческого решения
Директива Министерства обороны США 2023 года по автономным системам вооружения требует, чтобы командиры и операторы могли применять надлежащий уровень человеческого суждения относительно применения силы. В то же время участники слушаний поставили вопрос, остается ли такое суждение содержательным, когда ИИ влияет на определение целей быстрее, чем человек способен проверить рекомендацию.
Национальный директор по отношениям с правительством и адвокации Amnesty International USA Аманда Класинг предупредила, что ИИ может ускорять военную цепочку принятия решений и усложнять установление того, произошла ли содержательная человеческая оценка перед ударом. Бывший военный офицер и исследователь военной этики Джозеф Чапа призвал оценивать не только степень автономности систем, но и то, опираются ли они на статистические выводы, как ведут себя в случае сбоев и можно ли впоследствии проверить основания их рекомендаций.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Ответственность за вред гражданскому населению
Участники слушаний также подняли вопрос ответственности в случаях, когда решения с участием ИИ приводят к вреду гражданскому населению. Обзор генерального инспектора Министерства обороны США, обнародованный в мае, выявил проблемы с внедрением механизма смягчения вреда гражданскому населению и реагирования на него. Среди них — утрата или перевод сотрудников, прекращение финансирования платформы для управления данными и прекращение заседаний старшего руководящего комитета.
Класинг предложила включать данные о роли ИИ в ежегодные отчеты Пентагона о жертвах среди гражданского населения. Старший научный сотрудник Carnegie Endowment for International Peace Стив Фелдстайн заявил, что Пентагон должен собирать данные об операциях и проводить проверки после них, чтобы устанавливать точность идентификации целей системами с ИИ и возможную связь их ошибок с гражданскими потерями.
В то же время Фелдстайн предостерег от возложения всей ответственности на технологию. По его словам, ИИ может помогать проверять разведывательные данные, выявлять изменения на снимках и определять приоритеты защиты от дронов и баллистических ракет. Мысишин отметила, что ИИ не исправит ошибочные предположения, которые люди заложили в правила работы системы.
