Китай визначив вимоги контролю за автономними ШІ-агентами
У Китаї регулятори визначили вимоги безпеки для систем штучного інтелекту, зокрема автономних ШІ-агентів, щоб запобігати втраті людського контролю над ними. У травні кіберпросторовий регулятор країни оприлюднив спільні настанови для таких систем, які можуть діяти самостійніше та виконувати складніші завдання, ніж звичайні чатботи, повідомляє Asharq Al-Awsat.
Норми вимагають від розробників поліпшити здатність виявляти неналежну поведінку агентів, втручатися в їхню роботу, блокувати її та відновлювати системи після інцидентів. Серед визначених ризиків — отруєння даних, маніпулювання алгоритмами, вразливості систем і «операційна втрата контролю». Згідно з настановами, користувачі мають зберігати остаточне право ухвалювати рішення щодо автономних дій агентів.
Ризик втрати контролю
Китай уперше включив сценарій можливої втрати контролю над ШІ до рамкового документа з безпеки, оприлюдненого у вересні 2024 року під керівництвом Управління кіберпростору Китаю. У документі зазначалося, що не можна виключати появу ШІ, здатного самостійно отримувати зовнішні ресурси, відтворювати себе, розвивати самосвідомість і прагнути зовнішньої влади, конкуруючи з людьми за контроль.
Розширена версія рамкового документа, видана у вересні 2025 року, передбачила можливість раптового та несподівано значного стрибка інтелектуальних можливостей ШІ. До неї також внесли принцип «довіреного застосування, запобігання втраті контролю». В експертному роз’ясненні на сайті регулятора цей принцип пов’язали з протидією ризикам для виживання та розвитку людства, а також зі сценарієм, за якого ШІ може «вирватися на волю».
Більше актуальних новин читайте у Telegram-каналі UA.News.
Позиція посадовців
У липні на Всесвітній конференції зі штучного інтелекту в Шанхаї голова КНР Сі Цзіньпін заявив, що влада має приділяти пильну увагу як внутрішнім, так і похідним ризикам ШІ. За його словами, штучний інтелект має «завжди залишатися під контролем людини».
Високопосадовець МЗС Китаю з питань ШІ Сунь Сяобо на засіданні ООН минулого місяця повідомив про прискорення досліджень ширшого законодавства у сфері штучного інтелекту. Заступник постійного представника Китаю при ООН Сунь Лей у вересні закликав уряди обережно підходити до військового застосування ШІ, щоб уникнути стратегічних прорахунків і гонки озброєнь.
Міністр державної безпеки Китаю Чень Їсінь у державному виданні написав, що передові американські моделі Anthropic та OpenAI можуть становити серйозні ризики для критичної інформаційної інфраструктури КНР, і закликав комплексно зміцнювати безпеку ШІ.
