Верховний апеляційний суд ПАР розглянув справу щодо алгоритмів Sassa
Верховний апеляційний суд ПАР 25 серпня розглянув апеляцію у справі щодо цифрової системи подання заявок на виплату Social Relief of Distress (SRD), яку адмініструє Південноафриканська агенція соціального забезпечення Sassa. Як повідомляє Daily Maverick, система приймає заявки лише онлайн та автоматично перевіряє банківські рахунки заявників для оцінки їхнього матеріального становища.
Надходження на рахунок
Автори матеріалу зазначають, що автоматична перевірка може призвести до відмови у виплаті людині, на чий рахунок надійшли кошти, без можливості пояснити їхнє походження. Такі надходження можуть бути не постійним доходом, а тимчасовою позикою, переказом усередині домогосподарства, допомогою на похорон, внесками до stokvel — неформальної системи спільних заощаджень — або грошима, отриманими від імені людини без банківського рахунку.
На думку авторів, система не враховує контекст неформальних і спільних фінансових мереж, завдяки яким виживають багато жителів ПАР. Вони також вважають, що виключно цифровий спосіб подання заявок посилює цифрову нерівність для людей, які не мають необхідної цифрової інфраструктури або коштів на мобільний інтернет.
Більше актуальних новин читайте у Telegram-каналі UA.News.
Позиція учасників справи
Global Center on AI Governance, який представляв Centre for Applied Legal Studies, долучився до справи як друг суду. Організація стверджувала, що конституційні права на соціальне забезпечення, справедливі адміністративні дії, рівність і гідність вимагають підвищеної обережності під час автоматизації рішень про соціальні виплати.
У поданні організації йдеться, що алгоритмічні системи у сфері соціальної допомоги мають бути процедурно справедливими, недискримінаційними та пристосованими до умов неформальної економіки ПАР. У ньому також згадується стаття 71 Закону про захист персональної інформації, яка обмежує суто автоматизоване ухвалення рішень і гарантує право на втручання людини та зрозумілі пояснення.
Автори наголошують, що автоматизовані системи мають бути надійними, прозорими та давати змогу змістовно оскаржити рішення. Помилкова відмова у SRD, за їхньою оцінкою, може позбавити безробітних людей коштів на базові потреби, зокрема харчі, воду та електроенергію.
