Andrew Rogoyski wskazał przedwczesne zaufanie jako główne ryzyko AI

Najbliższe ryzyka związane ze sztuczną inteligencją nie dotyczą pojawienia się superinteligentnego systemu, który rozpocznie wojnę z ludzkością, lecz przedwczesnego zaufania do niedoskonałych modeli i przekazania im kontroli nad procesami o kluczowym znaczeniu. Taką opinię wyraził fizyk i specjalista w dziedzinie sztucznej inteligencji Andrew Rogoyski w artykule opiniotwórczym dla Live Science.

Autor zaznacza, że współczesne zaawansowane modele dobrze radzą sobie z pisaniem tekstów, programowaniem i zadaniami matematycznymi. Jednocześnie, jego zdaniem, brakuje im cech niezbędnych dla użytecznej ogólnej sztucznej inteligencji: spójnego rozumowania, długoterminowego planowania, zgodności z faktami oraz niezawodnego działania poza danymi, na których zostały wytrenowane.

Zależność od infrastruktury

Zdaniem Rogoyskiego scenariusze dotyczące wszechmocnej cyfrowej inteligencji zdolnej samodzielnie zniszczyć ludzkość odwracają uwagę od bardziej praktycznych zagrożeń. Systemy AI zależą od energii elektrycznej, chłodzenia, centrów danych, wyspecjalizowanych chipów, sieci, personelu technicznego i łańcuchów dostaw. W wielu scenariuszach odcięcie zasilania, ograniczenie dostępu do procesorów graficznych, wyłączenie chłodzenia lub sieci zatrzyma działanie takiego systemu.

Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.

Niebezpieczne mogą być natomiast systemy o ograniczonym rozumieniu, którym przyznano autonomię i dostęp do infrastruktury krytycznej. Zdaniem autora mogą one wyrządzić szkody nie z powodu intencji, lecz przez wąsko określone cele i niezdolność do uwzględnienia szerszych konsekwencji. Jako przykład Rogoyski przywołuje eksperyment myślowy Nicka Bostroma o AI, która dąży do wyprodukowania jak największej liczby spinaczy, ignorując inne konsekwencje realizacji takiego zadania.

Ryzyka cybernetyczne i zatrudnienie

Rogoyski uważa ataki cybernetyczne z wykorzystaniem AI oraz długotrwałe wstrząsy gospodarcze za dwa najpilniejsze zagrożenia. Szpitale, banki, sieci energetyczne, firmy logistyczne i rządy zależą od wzajemnie połączonych systemów cyfrowych, dlatego takie ataki mogą spowodować znaczne straty finansowe i zakłócić działanie usług.

Autor wskazuje również jako kolejne ryzyko przedwczesne redukowanie zatrudnienia przez firmy, które mogą pomylić przekonujące demonstracje modeli językowych z ich zdolnością do wykonywania niezawodnej pracy. Jego zdaniem takie podejście może prowadzić do utraty zgromadzonej wiedzy, odpowiedzialności, relacji zawodowych i zaufania wewnątrz organizacji. Rogoyski przypuszcza, że incydent na dużą skalę w operacji cybernetycznej z użyciem zaawansowanej AI może spowodować ograniczenie inwestycji w tę technologię i nową „zimę AI”, gdy finansowanie i badania ulegają zmniejszeniu.

Czytaj nas na Telegram i Sends