Верховный апелляционный суд ЮАР рассмотрел дело об алгоритмах Sassa
Верховный апелляционный суд ЮАР 25 августа рассмотрел апелляцию по делу о цифровой системе подачи заявок на выплату Social Relief of Distress (SRD), которой управляет Южноафриканское агентство социального обеспечения Sassa. Как сообщает Daily Maverick, система принимает заявки только онлайн и автоматически проверяет банковские счета заявителей для оценки их материального положения.
Поступления на счёт
Авторы материала отмечают, что автоматическая проверка может привести к отказу в выплате человеку, на счёт которого поступили средства, без возможности объяснить их происхождение. Такие поступления могут быть не постоянным доходом, а временным займом, переводом внутри домохозяйства, помощью на похороны, взносами в stokvel — неформальную систему совместных сбережений — или деньгами, полученными от имени человека без банковского счёта.
По мнению авторов, система не учитывает контекст неформальных и общих финансовых сетей, благодаря которым выживают многие жители ЮАР. Они также считают, что исключительно цифровой способ подачи заявок усиливает цифровое неравенство для людей, у которых нет необходимой цифровой инфраструктуры или средств на мобильный интернет.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Позиция участников дела
Global Center on AI Governance, который представлял Centre for Applied Legal Studies, присоединился к делу в качестве друга суда. Организация утверждала, что конституционные права на социальное обеспечение, справедливые административные действия, равенство и достоинство требуют повышенной осторожности при автоматизации решений о социальных выплатах.
В представлении организации говорится, что алгоритмические системы в сфере социальной помощи должны быть процедурно справедливыми, недискриминационными и приспособленными к условиям неформальной экономики ЮАР. В нём также упоминается статья 71 Закона о защите персональной информации, которая ограничивает принятие решений исключительно в автоматизированном порядке и гарантирует право на вмешательство человека и понятные объяснения.
Авторы подчёркивают, что автоматизированные системы должны быть надёжными, прозрачными и давать возможность содержательно обжаловать решения. По их оценке, ошибочный отказ в SRD может лишить безработных людей средств на базовые потребности, в том числе продукты питания, воду и электроэнергию.
