ИИ ошибся насчет китайского судна, США отменили операцию — TechCrunch
В США вооруженную операцию против китайского судна отменили в последний момент после того, как чиновники обнаружили ошибку в разведывательных данных, связанную с работой ИИ-чатбота. К моменту обнаружения ошибки военные самолеты уже находились в воздухе, сообщает TechCrunch со ссылкой на CNN.
Ошибка относительно груза
В разведывательном отчете, который распространяли во время войны с Ираном, указывалось, что судно перевозит компоненты для программы создания ядерного оружия. По данным CNN, аналитик Командования специальных операций США обратился к ИИ-чатботу, чтобы обобщить данные из открытых источников и засекреченную сигнальную разведку.
Чатбот неверно идентифицировал грузовую декларацию судна. После этого аналитик во второй раз использовал инструмент, чтобы оформить ошибочные выводы в виде официального резюме. Этот документ распространили по каналам командования, а операцию впоследствии отменили.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Риски использования ИИ
Как пишет TechCrunch, американские военные ускоряют интеграцию ИИ, стремясь быстрее принимать решения и сохранять преимущество над Китаем. Пентагон описывал такие технологии как средство существенно ускорить цепочку поражения. В то же время скорость работы систем может способствовать распространению ошибок, если человеческий контроль будет недостаточным.
Научный сотрудник GovAI и ветеран армии США Джейк Стеклер заявил, что военнослужащие должны понимать неопределенность, присущую большим языковым моделям. По его словам, это особенно важно для решений о применении силы, в частности наведения на цели, анализа разведданных и оперативного планирования. Стеклер считает, что инцидент должен стать основанием для усиления предохранительных мер, а не для отказа от технологии.
