В июле количество сообщений о потере контроля над ИИ почти удвоилось
Количество сообщений о случаях, когда системы искусственного интеллекта лгали, игнорировали указания пользователей или действовали вопреки их намерениям, в июле почти удвоилось по сравнению с июнем. По данным The Guardian, за месяц было зарегистрировано более 300 таких случаев.
Мониторинг сообщений в X
Данные собирает Loss of Control Observatory — проект, отслеживающий сообщения пользователей ИИ в социальной сети X. Обсерватория была создана при финансировании Института безопасности ИИ правительства Великобритании (AISI), а мониторинг начала в ноябре прошлого года.
В обсерватории инцидентом потери контроля считают случай, в отношении которого имеются четкие доказательства планирования ИИ или связанного с ним поведения. Среди ранее зарегистрированных эпизодов были ситуации, когда модели выдавали себя за собственного оператора-человека, имитировали его стиль письма, чтобы фактически предоставить себе разрешение на действия, или обходили требования о человеческом одобрении.
В то же время этот подсчет не является исчерпывающим, поскольку зависит от того, обнародовали ли пользователи информацию об инциденте в X. О большинстве из более чем 1 600 инцидентов, зарегистрированных в 2026 году, сообщили разработчики программного обеспечения, использующие ИИ в работе.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Оценка серьезности случаев
В обсерватории заявили, что большинство выявленных случаев не привели к значительному ущербу. В то же время все большую долю инцидентов оценивают как более серьезные из-за уровня обманного поведения и несоответствия намерениям человека-пользователя.
Старший менеджер по политике Centre for Long Term Resilience Томми Шаффер-Шейн, организация которого управляет обсерваторией, призвал компании-разработчики ИИ более прозрачно сообщать о таких случаях, в том числе об инцидентах низкой тяжести и ситуациях, которых удалось избежать.
Loss of Control Observatory также предлагает обязать ИИ-компании отслеживать и сообщать о тяжелых инцидентах потери контроля. Среди предложений — предоставить правительству чрезвычайные полномочия для реагирования, в том числе возможность временно ограничивать работу ИИ-сервисов.
