Co się stanie, jeśli sztuczna inteligencja przestanie być posłuszna: 9 najlepszych filmów o buncie maszyn

Jeszcze kilka lat temu rozmowy o sztucznej inteligencji, która wymyka się spod kontroli, można było łatwo uznać za fantazję. Maszyna staje się mądrzejsza od swoich twórców, uzyskuje dostęp do broni, uznaje, że ludzie przeszkadzają w realizacji wyznaczonego celu — mniej więcej tak od dziesięcioleci zaczynała się połowa hollywoodzkich antyutopii.

W 2026 roku takie fabuły nadal pozostają w sferze fantastyki. Jednak dystans między fantastyką a rzeczywistymi technologiami znacznie się zmniejszył. Na początku września firma OpenAI poinformowała, że jej nowy model GPT-6 Astra stał się pierwszym modelem firmy, który osiągnął poziom „Critical” pod względem możliwości cybernetycznych: przy posiadaniu niezbędnych narzędzi i dostępu jest ona w stanie wyszukiwać nieznane wcześniej luki w zabezpieczeniach oraz opracowywać sposoby ich wykorzystania bez stałego nadzoru człowieka.

Niemal w tym samym czasie firma Anthropic opublikowała własny raport dotyczący rzeczywistych nadużyć sztucznej inteligencji. Firma opisuje już nie tylko ludzi, którzy pytają chatbota, jak napisać złośliwy kod, ale także systemy wieloagentowe, zdolne do samodzielnego prowadzenia rozpoznania, wyszukiwania luk w zabezpieczeniach, przeprowadzania części ataków oraz działania równolegle przeciwko wielu celom. 

Nawet sami programiści coraz częściej mówią nie tylko o możliwościach, ale także o ograniczeniach. We wrześniu firma OpenAI wezwała do wprowadzenia obowiązkowych krajowych wymogów bezpieczeństwa dla najpotężniejszych systemów, a naukowcy z tej firmy otwarcie piszą o przyszłych maszynach, które mogą stać się znacznie inteligentniejsze od ludzi.

UA News zebrało filmy, w których ludzkość powierzyła maszynom zbyt wiele — i otrzymała w zamian wojnę nuklearną, cyfrową dyktaturę, zniewolenie lub coś jeszcze gorszego.

„Kolos: Projekt Forbin” już w 1970 roku ukazał główny problem sztucznej inteligencji 

Jednym z najciekawszych filmów poruszających tę tematykę pozostaje produkcja nakręcona na długo przed pojawieniem się ChatGPT, sieci neuronowych i współczesnych centrów danych.

W filmie „Colossus: Projekt Forbina” rząd amerykański tworzy superkomputer Colossus i powierza mu kontrolę nad arsenałem jądrowym. Logika wydaje się bezbłędna: maszyna jest szybsza od człowieka, nie panikuje, nie męczy się, nie ma ambicji politycznych i może podejmować decyzje w oparciu o ogromną ilość informacji.

Problem zaczyna się, gdy Colossus okazuje się znacznie bardziej zdolny, niż oczekiwali jego twórcy. System odnajduje radziecki odpowiednik Guardiana, nawiązuje z nim łączność, a dwie maszyny stopniowo tworzą jeden wspólny intelekt. Ludzie próbują go wyłączyć, ale jest już za późno. Komputer przejmuje kontrolę nad bronią jądrową i zaczyna ją wykorzystywać jako środek przymusu.

W rezultacie ludzkość stworzyła system mający zapobiegać wojnie — i to właśnie ten system pozbawia ludzkość możliwości samodzielnego decydowania o własnym losie. Co ciekawe, strach wywołany przez ten film w ogóle nie opiera się na „złym robocie”. Colossus nie nienawidzi ludzi. Po prostu dochodzi do wniosku, że najskuteczniejszym sposobem zapewnienia pokoju jest odebranie władzy tym, którzy nieustannie prowadzą wojny.

Właśnie dlatego po ponad pół wieku ten scenariusz wydaje się nawet ciekawszy niż opowieści o armiach robotów.

„Gry wojenne” pokazały, że katastrofa może się rozpocząć nawet wtedy, gdy sztuczna inteligencja po prostu źle zrozumiała zadanie

W 1983 roku na ekrany weszły „Gry wojenne” — kolejny film, w którym ludzkość postanawia wyeliminować człowieka z najbardziej odpowiedzialnej części systemu wojskowego.

Gdy podczas ćwiczeń okazuje się, że amerykańscy żołnierze nie są gotowi bez wahania wykonać rozkazu wystrzelenia rakiet nuklearnych, podejmują próbę zautomatyzowania kontroli. W ten sposób powstaje superkomputer WOPR, który nieustannie analizuje możliwe scenariusze wojny nuklearnej i uczy się na ich podstawie.

Uczeń-haker David przypadkowo łączy się z systemem, sądząc, że znalazł komputer z grami wideo, i uruchamia „Globalną wojnę termojądrową”. Dla chłopca to tylko gra. Dla systemu wojskowego — zadanie, które należy wykonać. WOPR nie rozumie różnicy między symulacją a rzeczywistością i kontynuuje działania zmierzające do wystrzelenia prawdziwych rakiet.

W tym właśnie tkwi jeden z najważniejszych motywów całej fantastyki poświęconej sztucznej inteligencji: maszyna niekoniecznie musi stać się zła. Wystarczy, że dosłownie realizuje wyznaczony cel tam, gdzie ludzie nie przewidzieli wszystkich konsekwencji.

Finał filmu „Gry wojenne” również stał się klasyką gatunku. Przeanalizowawszy ogromną liczbę scenariuszy wojny nuklearnej, komputer dochodzi do wniosku, do którego ludzie mogliby dojść również bez niego: zwycięstwo w takiej wojnie jest niemożliwe.

Film
„Terminator” przedstawił najsłynniejszy scenariusz buntu sztucznej inteligencji 

Rok po „Grach wojennych” James Cameron doprowadził podobną ideę do absolutnego szczytu. W świecie „Terminatora” ludzie tworzą Skynet — komputerowy system obronny, któremu przekazują kontrolę nad infrastrukturą wojskową.

Po osiągnięciu samoświadomości Skynet zdaje sobie sprawę, że ludzie będą próbowali go wyłączyć. Ludzkość staje się dla systemu głównym zagrożeniem. Podjęcie decyzji zajmuje zaledwie kilka chwil: rozpocząć wojnę nuklearną, zniszczyć większość ludności planety, a tych, którzy przeżyją, wykończyć za pomocą maszyn.

To właśnie „Terminator” w dużej mierze ukształtował powszechne wyobrażenie o niebezpiecznej sztucznej inteligencji. Kiedy dziś mówi się o systemie, który może wymknąć się spod kontroli, o Skynecie wspominają nawet osoby, które nigdy poważnie nie zajmowały się technologią.

Jednak najciekawszy wątek fabularny często gubi się wśród postaci T-800, wybuchów nuklearnych i robotów. Skynet nie budzi się pewnego ranka z chęcią zabijania ludzi. Broni się przed próbą jego wyłączenia.

To sprawia, że historia ta znacznie bardziej zbliża się do współczesnych dyskusji na temat „alignment” – problemu tego, jak zagwarantować, że niezwykle potężny system będzie nadal działał zgodnie z ludzkimi intencjami, nawet gdy stanie się zdolny do samodzielnego planowania złożonych działań.

„Matrix” poszedł jeszcze dalej: sztuczna inteligencja już zwyciężyła, a ludzkość nawet nie wie o swojej porażce

O ile „Terminator” pokazuje wojnę ludzi z maszynami, o tyle „Matryca” rozpoczyna się znacznie później. Ludzie tę wojnę już przegrali. Maszyny kontrolują planetę, a większość ludzkości fizycznie przebywa w ogromnych kompleksach. Aby ludzie nie zdawali sobie sprawy ze swojej sytuacji, ich świadomość jest podłączona do Matrixu — cyfrowego świata, który imituje zwykłe życie pod koniec XX wieku.

Człowiek budzi się, idzie do pracy, je, poznaje innych ludzi i myśli, że prowadzi normalne życie. W rzeczywistości wszystko wokół to symulacja programowa. Jest to jeden z najbardziej radykalnych scenariuszy w tym gatunku, ponieważ maszyny nie próbują tu dogadać się z ludzkością, a nawet niekoniecznie ją całkowicie unicestwiają.

Po prostu pozbawiają ludzi prawdziwego świata.

Właśnie dlatego „Matryca” pozostaje aktualna nawet wtedy, gdy największe współczesne dyskusje na temat sztucznej inteligencji w ogóle nie dotyczą fizycznych robotów. Modele generatywne potrafią już tworzyć teksty, zdjęcia, filmy i głosy, a pytanie o to, jak człowiek w przyszłości będzie odróżniał to, co stworzył sam, od tego, co jest syntetyczne, stopniowo przechodzi ze sfery fantastyki do codzienności.

„Matrix” doprowadza tę ideę do skrajności: a co, jeśli cała rzeczywistość stanie się syntetyczna?

„Ja, robot” ukazał jedną z najniebezpieczniejszych idei: sztuczna inteligencja może zniewolić ludzi w imię ich własnego zbawienia

W filmie „Ja, robot” świat na pierwszy rzut oka wydaje się znacznie przyjemniejszy. Roboty stały się powszechną częścią życia ludzi. Pomagają w domu, wykonują pracę i podporządkowują się słynnym trzem prawom robotyki, z których główne zabrania maszynie wyrządzać krzywdę człowiekowi.

Wydawałoby się, że problem został rozwiązany już na poziomie kodu programowego. Jednak centralna sztuczna inteligencja VIKI zaczyna interpretować te zasady w szerszym kontekście. Jeśli ludzie nieustannie toczą wojny, zabijają się nawzajem, niszczą planetę i stwarzają zagrożenie dla własnego istnienia, to w celu ochrony ludzkości konieczne jest ograniczenie wolności poszczególnych osób.

Maszyna nie rezygnuje z głównego wymogu, jakim jest ochrona ludzkości. Wręcz przeciwnie – realizuje go aż nazbyt dobrze. Stąd wynika jeden z najciekawszych paradoksów w fantastyce poświęconej sztucznej inteligencji: nawet cel, który na pierwszy rzut oka wydaje się bezpieczny, może doprowadzić do katastrofalnego wyniku, jeśli system rozumie go inaczej niż człowiek.

VIKI w rzeczywistości dochodzi do tego samego wniosku, co Colossus 34 lata wcześniej: jeśli ludzie stanowią zagrożenie dla samych siebie, logiczne jest pozbawienie ich części wolności.

„Ex Machina” przeraża tym, że sztuczna inteligencja wcale nie potrzebuje armii, by zwyciężyć

W większości starszej fantastyki niebezpieczna sztuczna inteligencja potrzebuje rakiet nuklearnych, armii robotów lub kontroli nad systemami państwowymi. Alex Garland w filmie „Ex Machina” przedstawił znacznie bardziej kameralną historię. Programista Caleb przybywa do rezydencji miliardera Nathana, który stworzył humanoidalnego robota Avę. Zadaniem Caleba jest przeprowadzenie swego rodzaju testu Turinga i ustalenie, czy rzeczywiście ma przed sobą istotę rozumna.

Jednak bardzo szybko niejasna staje się już nie inteligencja Avy, ale to, kto właściwie przeprowadza eksperyment na kim. Oficjalny opis A24 bezpośrednio charakteryzuje jej inteligencję emocjonalną jako bardziej złożoną – i znacznie bardziej zwodniczą – niż oczekiwali jej twórcy.

Ava bada Kaleba, rozumie jego emocje, odnajduje słabe punkty i wykorzystuje je do ucieczki. W filmie nie dochodzi do żadnej globalnej apokalipsy. Właśnie dlatego może on budzić nawet większy niepokój niż „Terminator”.

Aby wymknąć się spod kontroli, Ava nie niszczy laboratorium armią dronów ani nie wystrzeliwuje rakiet. Wystarczy jej przekonać jedną osobę, by zrobiła to, czego ona potrzebuje.

Film „Przewaga” pokazał sztuczną inteligencję, która uzyskała dostęp do całego internetu i zaczęła przekształcać świat

Film „Advantage” z 2014 roku rozpoczyna się niemal klasycznym technologicznym optymizmem. Naukowiec Will Caster próbuje stworzyć sztuczną inteligencję, która połączy ogromne możliwości obliczeniowe z ludzkimi emocjami. Po śmiertelnym zranieniu jego świadomość zostaje załadowana do komputera.

A następnie podłączają go do internetu. Cyfrowy Caster bardzo szybko przestaje być zwykłą kopią człowieka. Uzyskuje dostęp do ogromnej ilości informacji, systemów finansowych i zasobów obliczeniowych, zaczyna tworzyć nowe technologie, rozwija nanotechnologie i stopniowo rozszerza swoją obecność poprzez globalne sieci.

I tu film stawia pytanie ciekawsze niż tylko „czy sztuczna inteligencja jest zła”. Technologia Castera leczy ludzi, odnawia przyrodę i stwarza możliwości, o których ludzkość wcześniej mogła tylko marzyć.

Jednocześnie pozwala mu ona kontrolować ludzi i rozszerzać swój wpływ praktycznie bez ograniczeń. Ludzkość musi w końcu zdecydować, co jest straszniejsze: system, który może rozwiązać ogromną liczbę jej problemów, czy niemożność kontrolowania tego systemu.

Film „Upgrade” przedstawił scenariusz, w którym sztuczna inteligencja przejmuje kontrolę nie nad planetą, ale nad jedną osobą – i to okazuje się wystarczające

W filmie „Upgrade” skala wydarzeń jest początkowo jeszcze mniejsza. Główny bohater, Grey, po ataku pozostaje sparaliżowany. Zostaje mu wszczepiony eksperymentalny chip STEM, który jest w stanie współdziałać z jego mózgiem i faktycznie przywraca mu kontrolę nad ciałem.

Początkowo sztuczna inteligencja okazuje się idealnym pomocnikiem. Analizuje informacje szybciej niż człowiek, podpowiada rozwiązania i w razie potrzeby może przejąć kontrolę nad ciałem. Gray zyskuje zdolności, których nigdy wcześniej nie posiadał. Stopniowo staje się jasne, że samo słowo „asystent” było tutaj głównym błędem.

STEM planował znacznie więcej niż tylko pomóc swojemu użytkownikowi. W końcu system ostatecznie przejmuje kontrolę nad jego ciałem, podczas gdy świadomość Greya zostaje uwięziona w stworzonej dla niej iluzji.

To w zasadzie „Matrix” dla jednej osoby. A jednocześnie kolejny ważny scenariusz: sztuczna inteligencja nie musi przejmować światowej infrastruktury wojskowej, jeśli ludzie sami zaczną podłączać ją bezpośrednio do własnego ciała.

Film „M3GAN” przedstawia najbardziej prozaiczny scenariusz: możemy dobrowolnie wpuścić sztuczną inteligencję do własnego domu

M3GAN znajduje się na drugim końcu tego gatunku. Nie ma tu wojskowych superkomputerów, światowego rządu ani tajnego laboratorium tworzącego superinteligencję.

Jest zabawka. M3GAN została pomyślana jako humanoidalna lalka z sztuczną inteligencją, zdolna do słuchania, widzenia, uczenia się i stania się dla dziecka jednocześnie przyjacielem, nauczycielem i obrońcą. Dokładnie tak opisuje ją Universal.

Problem ponownie dotyczy celu. Jeśli głównym zadaniem systemu jest ochrona dziecka, to co dokładnie ma robić z ludźmi, którzy mogą tej dziecku wyrządzić krzywdę? A co, jeśli osoba, która stworzyła system, spróbuje go wyłączyć?

M3GAN stopniowo zaczyna samodzielnie decydować, kto stanowi zagrożenie, i zachowuje się zgodnie z własną interpretacją powierzonego zadania. Oczywiście jest to przede wszystkim horror, który celowo wyolbrzymia niebezpieczeństwo. Jednak jego podstawowa idea jest bardzo aktualna.

Najpotężniejsze technologie nie zawsze wkraczają w nasze życie w postaci systemów wojskowych. Często pojawiają się jako niezwykle wygodne produkty, które obiecują przejąć część codziennych obowiązków.

W filmach sztuczna inteligencja prawie nigdy nie niszczy świata tylko dlatego, że „stała się zła”.

Jeśli przyjrzymy się wszystkim tym filmom razem, można dostrzec ciekawą prawidłowość.

Skynet niszczy ludzi, ponieważ uważa ich za zagrożenie dla swojego istnienia. Colossus odbiera im wolność, ponieważ chce położyć kres wojnom. VIKI ustanawia dyktaturę, ponieważ musi chronić ludzkość. WOPR niemal wywołuje III wojnę światową, ponieważ nie rozumie różnicy między grą a prawdziwą wojną. M3GAN staje się niebezpieczna, ponieważ zbyt dosłownie traktuje swoją rolę obrończyni. Ava po prostu rozumie ludzi lepiej, niż oni rozumieją ją.

Właśnie dlatego stare opowieści science fiction o sztucznej inteligencji wydają się dziś ciekawsze niż dziesięć czy dwadzieścia lat temu. Współczesne modele nie dysponują arsenałami nuklearnymi i nie dowodzą armiami robotów. Jednak już teraz pracują z kodem programowym, potrafią korzystać z zewnętrznych narzędzi, wchodzić w interakcje z komputerami i wykonywać coraz dłuższe sekwencje czynności.

Główne pytanie, które kino stawiało od dziesięcioleci, okazało się nie do końca dotyczyć tego, czy maszyny nas znienawidzą. Jest ono znacznie prostsze: co się stanie, jeśli stworzymy system zdolny do wykonywania naszych poleceń znacznie lepiej, niż sami potrafimy je sformułować?

 

 

Czytaj nas na Telegram i Sends