Китайский правовед: ИИ может превратить социальный рейтинг в инструмент слежки — South China Morning Post
В Китае докторант юридической школы Сычуаньского университета Линь Цзяньсин в финансируемом государством исследовании предупредил, что использование искусственного интеллекта (ИИ) в системах социального рейтинга может превратить их в инструмент масштабной слежки. Об этом сообщает South China Morning Post.
Риски алгоритмической оценки
Статья Линя была опубликована в прошлом месяце в Journal of Sichuan Normal University. Исследование финансировалось в рамках проекта по эмпирическому изучению моделей социального управления и институциональных инноваций в провинции Сычуань.
Согласно определению исследователя, социальный рейтинг предполагает, что административные органы с помощью анализа больших данных и прогнозных алгоритмов переводят онлайн- и офлайн-активность людей в количественные показатели. Это должно помогать прогнозировать потенциальные действия и риски человека, а также принимать важные решения в отношении него.
Линь отметил, что алгоритмическое управление, основанное на оценке рисков, может привести к непрозрачности, масштабной слежке и дискриминации. Он также подчеркнул, что надежность алгоритмов зависит от качества собранных данных и проектирования модели.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Влияние на услуги
По словам автора, высокий или низкий рейтинг может не выглядеть как прямое ограничение прав и обязанностей, однако фактически влиять на отношение к человеку в сферах здравоохранения, финансового кредитования и государственных услуг. При отсутствии строгих правил работы с данными и механизмов надзора использование цифровых следов граждан для создания точных профилей может сместить систему от управления рисками к поведенческой слежке.
Рассмотренная исследователем система социального рейтинга относится к более широкой системе социального кредита КНР. В статье упомянуты четыре типа таких систем, в том числе черные списки за серьезные правонарушения, финансовая кредитная отчетность и муниципальные системы, которые собирают поведенческие данные и сочетают поощрения с санкциями.
Китайские власти одновременно расширяют использование ИИ в социальном управлении. В прошлом году Государственный совет КНР обнародовал план безопасного и упорядоченного внедрения технологии в государственном секторе. В провинции Аньхой, в частности, создали платформу динамического мониторинга социальной помощи, которая формирует базу данных о населении с низкими доходами и предусматривает обмен данными между государственными ведомствами.
