Monitoring AI w dziennikach nastolatków: jak szkoły w USA śledzą uczniów

W szkołach w USA szybko rozpowszechniają się systemy monitoringu oparte na sztucznej inteligencji, które nieustannie skanują konta i urządzenia uczniów w celu wykrycia oznak samookaleczeń, przemocy lub nękania.

Takie platformy integrują się z Google Workspace i pocztą elektroniczną, analizują teksty, obrazy oraz aktywność w sieci, a niepokojące treści przekazują moderatorom lub administracji.

Twórcy obiecują „wczesne sygnały” i szybkie reagowanie — dzięki połączeniu uczenia maszynowego i całodobowej pracy specjalistów ds. bezpieczeństwa. Jednak skala i nieprzejrzystość takiego nadzoru coraz częściej wywołują ożywione dyskusje w społecznościach i mediach.

Algorytmy mogą błędnie oznaczać zachowania nastolatków LGBTQ+, wzmacniając stygmatyzację zamiast faktycznej ochrony. Eksperci ostrzegają, że fałszywe alarmy mogą prowadzić do nieproporcjonalnych kontroli — od telefonów do rodziców po wizyty policji, co wywiera presję na wrażliwych uczniów.

Niektóre incydenty uwypukliły także ryzyko wycieków wrażliwych danych: przechowywanie i rozpowszechnianie zrzutów ekranów z osobistymi wyznaniami o depresji czy myślach samobójczych musiało być ograniczane „w locie”.

W rezultacie ciągły monitoring może zniechęcać uczniów do zwracania się po pomoc do nauczycieli — dokładnie tam, gdzie wsparcie jest najbardziej potrzebne.

Spory prawne stały się katalizatorem zmian: w Kansas w hrabstwie Lawrence zaprzestano używania Gaggle po pozwie dotyczącym naruszenia praw obywatelskich, który określił system jako „wszechogarniający, bezpodstawny”.

Powodowie twierdzili, że narzędzie błędnie oznaczało i usuwało materiały uczniowskie — od dziennikarskich szkiców po zdjęcia i projekty artystyczne — błędnie traktując je jako „nieprzyzwoite”.

Prawnicy podkreślają możliwe naruszenia Pierwszej i Czwartej Poprawki — wolności wypowiedzi i ochrony przed bezpodstawnymi przeszukaniami. Pomimo ostrzeżeń pedagogów, niektóre rady szkolne nadal odnawiały kontrakty — aż do momentu, gdy procesy sądowe i nacisk opinii publicznej zmusiły do przeglądu polityk.

Przypomnijmy, jak sztuczna inteligencja stała się narzędziem rosyjskiej propagandy.

Również warto rozważyć, czy sztuczna inteligencja rzeczywiście powinna budzić obawy.