У Конгресі США застерегли щодо контролю над військовим ШІ — Defense News
У Вашингтоні, США, учасники слухань у Конгресі заявили, що системи штучного інтелекту можуть пришвидшувати ідентифікацію цілей і рекомендації щодо ударів настільки, що людина не матиме достатньо часу для їхньої перевірки або втручання. Про це повідомляє Defense News.
На слуханнях Комісії Тома Лантоса з прав людини, присвячених наслідкам застосування ШІ у військовій сфері, дослідниця врядування ШІ Анна Мисишин наголосила, що формальне схвалення рішення оператором саме по собі не свідчить про збереження контролю. За її словами, в Україні ШІ може скорочувати процес ухвалення рішень із годин до хвилин.
Час для людського рішення
Директива Міноборони США 2023 року щодо автономних систем озброєння вимагає, щоб командири та оператори могли застосовувати належний рівень людського судження щодо використання сили. Водночас учасники слухань поставили питання, чи залишається таке судження змістовним, коли ШІ впливає на визначення цілей швидше, ніж людина здатна перевірити рекомендацію.
Національна директорка з урядових відносин і адвокації Amnesty International USA Аманда Класінг попередила, що ШІ може прискорювати військовий ланцюг ухвалення рішень і ускладнювати встановлення того, чи відбулася змістовна людська оцінка перед ударом. Колишній військовий офіцер і дослідник військової етики Джозеф Чапа закликав оцінювати не лише ступінь автономності систем, а й те, чи спираються вони на статистичні висновки, як поводяться в разі збоїв і чи можна згодом перевірити підстави їхніх рекомендацій.
Більше актуальних новин читайте у Telegram-каналі UA.News.
Відповідальність за шкоду цивільним
Учасники слухань також порушили питання відповідальності у випадках, коли рішення за участю ШІ призводять до шкоди цивільному населенню. Огляд генерального інспектора Міноборони США, оприлюднений у травні, виявив проблеми із впровадженням механізму пом’якшення та реагування на шкоду цивільним. Серед них — втрата або переведення працівників, припинення фінансування платформи для управління даними та припинення засідань старшого керівного комітету.
Класінг запропонувала включати дані про роль ШІ до щорічних звітів Пентагону про жертви серед цивільних. Старший науковий співробітник Carnegie Endowment for International Peace Стів Фелдстайн заявив, що Пентагон має збирати дані про операції та проводити перевірки після них, щоб встановлювати точність ідентифікації цілей системами із ШІ та можливий зв’язок їхніх помилок із цивільними втратами.
Водночас Фелдстайн застеріг від покладання всієї відповідальності на технологію. За його словами, ШІ може допомагати перевіряти розвіддані, виявляти зміни на знімках і визначати пріоритети захисту від дронів та балістичних ракет. Мисишин зазначила, що ШІ не виправить помилкових припущень, які люди заклали в правила роботи системи.
