Chiński prawnik: AI może przekształcić ocenę społeczną w narzędzie inwigilacji — South China Morning Post
W Chinach Lin Jianxing, doktorant szkoły prawa Uniwersytetu Syczuańskiego, ostrzegł w finansowanym przez państwo badaniu, że wykorzystanie sztucznej inteligencji (AI) w systemach oceny społecznej może przekształcić je w narzędzie masowej inwigilacji. Poinformował o tym South China Morning Post.
Ryzyka oceny algorytmicznej
Artykuł Lina opublikowano w ubiegłym miesiącu w Journal of Sichuan Normal University. Badanie sfinansowano w ramach projektu empirycznego badania modeli zarządzania społecznego i innowacji instytucjonalnych w prowincji Syczuan.
Zgodnie z definicją badacza ocena społeczna polega na tym, że organy administracyjne za pomocą analizy dużych zbiorów danych i algorytmów predykcyjnych przekształcają internetową i pozainternetową aktywność ludzi w wskaźniki ilościowe. Ma to pomagać przewidywać potencjalne działania i ryzyka danej osoby, a także podejmować dotyczące jej ważne decyzje.
Lin zaznaczył, że zarządzanie algorytmiczne oparte na ocenie ryzyka może prowadzić do nieprzejrzystości, masowej inwigilacji i dyskryminacji. Podkreślił również, że wiarygodność algorytmów zależy od jakości zebranych danych i konstrukcji modelu.
Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.
Wpływ na usługi
Według autora wysoka lub niska ocena może nie wyglądać na bezpośrednie ograniczenie praw i obowiązków, lecz faktycznie wpływać na traktowanie danej osoby w ochronie zdrowia, kredytowaniu finansowym i usługach publicznych. W przypadku braku surowych zasad przetwarzania danych i mechanizmów nadzoru wykorzystywanie cyfrowych śladów obywateli do tworzenia dokładnych profili może przesunąć system od zarządzania ryzykiem ku inwigilacji zachowań.
System oceny społecznej analizowany przez badacza należy do szerszego systemu kredytu społecznego ChRL. W artykule wspomniano cztery typy takich systemów, w tym czarne listy za poważne naruszenia prawa, sprawozdawczość kredytową oraz systemy miejskie, które gromadzą dane o zachowaniach i łączą zachęty z sankcjami.
Władze Chin jednocześnie rozszerzają wykorzystanie AI w zarządzaniu społecznym. W ubiegłym roku Rada Państwa ChRL opublikowała plan bezpiecznego i uporządkowanego wdrażania tej technologii w sektorze publicznym. W prowincji Anhui utworzono między innymi platformę dynamicznego monitorowania pomocy społecznej, która tworzy bazę danych o osobach o niskich dochodach i przewiduje wymianę danych między instytucjami państwowymi.
