Китай посилює контроль над ШІ з людиноподібною поведінкою
Китайський кіберрегулятор оприлюднив проєкт нових правил, спрямованих на посилення контролю над сервісами штучного інтелекту, які імітують людську поведінку та активно взаємодіють з користувачами на емоційному рівні.
Документ винесли на громадське обговорення 27 грудня, повідомляє Reuters.
Нові вимоги поширюються на продукти й послуги ШІ, доступні широкій аудиторії в Китаї. Йдеться про системи, що відтворюють риси людської особистості, способи мислення та стилі спілкування. Взаємодія з такими сервісами може відбуватися через текст, зображення, аудіо, відео та інші формати.
На тлі швидкого впровадження ШІ в повсякденне життя та зростання занепокоєння щодо психологічних наслідків його використання, зокрема випадків самогубств, Пекін прагне запровадити жорсткіші стандарти безпеки та етики. Проєкт правил передбачає обов’язок компаній попереджати користувачів про можливу шкоду від надмірного користування сервісами, а також втручатися у разі виявлення ознак залежності.
Окремий розділ документа присвячений відповідальності постачальників протягом усього життєвого циклу продукту. Компанії мають забезпечувати перевірку алгоритмів, захист даних і персональної інформації як на етапі розробки, так і під час експлуатації сервісів.
Регулятор також наголошує на необхідності врахування психологічних ризиків. Постачальники зобов’язані аналізувати емоційний стан користувачів і рівень їхньої залученості. У разі виявлення надмірних емоційних реакцій або залежної поведінки вони мають вживати відповідних заходів.
Крім того, проєкт встановлює «червоні лінії» щодо контенту. Сервіси ШІ не повинні створювати матеріали, які загрожують національній безпеці, поширюють чутки або пропагують насильство чи непристойність. Таким чином влада Китаю намагається обмежити ризики, пов’язані з дедалі тіснішою взаємодією людини та алгоритмів.
Тісний глобальний зв'язок між Китаєм і росією може призвести до синхронізованої ескалації у різних частинах світу, вважає генеральний секретар НАТО Марк Рютте .
Пекін проводить масштабний перегляд власної військової доктрини, аналізуючи помилки Росії у війні проти України. Про це йдеться у звіті Пентагону.
