ШІ помилився щодо китайського судна, США скасували операцію — TechCrunch
У США збройну операцію проти китайського судна скасували в останній момент після того, як посадовці виявили помилку в розвідданих, пов’язану з роботою ШІ-чатбота. На момент виявлення помилки військові літаки вже перебували в повітрі, повідомляє TechCrunch з посиланням на CNN.
Помилка щодо вантажу
У розвідувальному звіті, який поширювали під час війни з Іраном, зазначалося, що судно перевозить компоненти для програми створення ядерної зброї. За даними CNN, аналітик Командування спеціальних операцій США звернувся до ШІ-чатбота, щоб узагальнити дані з відкритих джерел і засекречену сигнальну розвідку.
Чатбот неправильно ідентифікував вантажну декларацію судна. Після цього аналітик вдруге використав інструмент, щоб оформити помилкові висновки у вигляді офіційного резюме. Цей документ поширили каналами командування, а операцію згодом скасували.
Більше актуальних новин читайте у Telegram-каналі UA.News.
Ризики використання ШІ
Як пише TechCrunch, американські військові прискорюють інтеграцію ШІ, прагнучи швидше ухвалювати рішення та зберігати перевагу над Китаєм. Пентагон описував такі технології як засіб суттєво прискорити ланцюг ураження. Водночас швидкість роботи систем може сприяти поширенню помилок, якщо людський контроль буде недостатнім.
Науковий співробітник GovAI та ветеран армії США Джейк Стеклер заявив, що військовослужбовці мають розуміти невизначеність, притаманну великим мовним моделям. За його словами, це особливо важливо для рішень про застосування сили, зокрема наведення на цілі, аналізу розвідданих і оперативного планування. Стеклер вважає, що інцидент має стати підставою для посилення запобіжників, а не для відмови від технології.
