Najwyższy Sąd Apelacyjny RPA rozpatrzył sprawę algorytmów Sassa
Najwyższy Sąd Apelacyjny RPA 25 sierpnia rozpatrzył apelację w sprawie cyfrowego systemu składania wniosków o świadczenie Social Relief of Distress (SRD), zarządzanego przez Południowoafrykańską Agencję Zabezpieczenia Społecznego Sassa. Jak informuje Daily Maverick, system przyjmuje wnioski wyłącznie online i automatycznie sprawdza rachunki bankowe wnioskodawców, aby ocenić ich sytuację materialną.
Wpływy na rachunek
Autorzy materiału zauważają, że automatyczna weryfikacja może skutkować odmową wypłaty osobie, na której rachunek wpłynęły środki, bez możliwości wyjaśnienia ich pochodzenia. Takie wpływy mogą nie być stałym dochodem, lecz tymczasową pożyczką, przelewem wewnątrz gospodarstwa domowego, pomocą pogrzebową, wpłatami do stokvel — nieformalnego systemu wspólnego oszczędzania — lub pieniędzmi otrzymanymi w imieniu osoby bez rachunku bankowego.
Zdaniem autorów system nie uwzględnia kontekstu nieformalnych i wspólnych sieci finansowych, dzięki którym przetrwa wielu mieszkańców RPA. Uważają oni również, że wyłącznie cyfrowy sposób składania wniosków pogłębia nierówność cyfrową w przypadku osób, które nie mają niezbędnej infrastruktury cyfrowej ani środków na mobilny internet.
Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.
Stanowisko uczestników sprawy
Global Center on AI Governance, które reprezentowało Centre for Applied Legal Studies, przystąpiło do sprawy jako przyjaciel sądu. Organizacja twierdziła, że konstytucyjne prawa do zabezpieczenia społecznego, sprawiedliwych działań administracyjnych, równości i godności wymagają zwiększonej ostrożności przy automatyzacji decyzji dotyczących świadczeń socjalnych.
W stanowisku organizacji wskazano, że systemy algorytmiczne w obszarze pomocy społecznej muszą być sprawiedliwe proceduralnie, niedyskryminujące i dostosowane do warunków nieformalnej gospodarki RPA. Wspomniano w nim również artykuł 71 ustawy o ochronie informacji osobowych, który ogranicza podejmowanie decyzji wyłącznie w sposób zautomatyzowany i gwarantuje prawo do interwencji człowieka oraz zrozumiałych wyjaśnień.
Autorzy podkreślają, że zautomatyzowane systemy muszą być niezawodne, przejrzyste i umożliwiać merytoryczne odwołanie od decyzji. Ich zdaniem błędna odmowa SRD może pozbawić osoby bezrobotne środków na podstawowe potrzeby, w tym żywność, wodę i energię elektryczną.
Czytaj nas na Telegram i Sends
