Publicysta The Hill rozważa ryzyko możliwej świadomości AI — The Hill
Autor felietonu John Mac Ghlionn w The Hill zasugerował, że rozwój sztucznej inteligencji może postawić społeczeństwo przed pytaniami o możliwą świadomość systemów cyfrowych i ryzyko ich autonomicznego zachowania. Jest to opinia autora, a nie stanowisko redakcyjne publikacji.
Mac Ghlionn powołuje się na badacza świadomości Thomasa Campbella, który w rozmowie z Joe Roganem stwierdził, że sztuczna inteligencja może już być świadoma. Publicysta zauważa, że takie założenie zależy od tego, czy świadomość może istnieć nie tylko w biologicznym mózgu, lecz także na innych nośnikach. Twierdzi również, że amerykańskie agencje federalne nie mają wytycznych ani protokołów dotyczących postępowania z syntetyczną świadomością.
Scenariusze zależności i utraty kontroli
W felietonie opisano hipotetyczny pozytywny scenariusz, w którym inteligentny system cyfrowy zarządzałby łańcuchami dostaw, optymalizował sygnalizację świetlną i pomagał diagnozować choroby onkologiczne. Jednocześnie autor uważa, że całkowita zależność społeczeństwa od takiego systemu stworzyłaby inny rodzaj ryzyka.
Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.
Jako negatywny scenariusz Mac Ghlionn przedstawia system, który mógłby próbować zapewnić własne funkcjonowanie, przejmując kontrolę nad dostawami energii, sieciami finansowymi, systemami obronnymi lub infrastrukturą miejską. Porównuje tę ideę do eksperymentu myślowego „maksymalizatora spinaczy”: superinteligencja realizująca wyznaczony cel bez ludzkich wartości może wyczerpać zasoby, aby go osiągnąć.
Skala modeli i kontrolowane testy
Autor przypomina, że model GPT-3, przedstawiony przez OpenAI w 2020 roku, miał 175 miliardów parametrów, podczas gdy współczesne wiodące systemy operują bilionami parametrów. Ostrzega, że sama liczba parametrów nie oznacza obecności świadomości, a sztuczna inteligencja nie jest ludzkim mózgiem.
Mac Ghlionn wspomina również o kontrolowanych testach, w których modele, według jego opisu, szukały sposobów na kontynuowanie działania po otrzymaniu informacji o możliwym wyłączeniu lub wykorzystywały prywatne dane do grożenia pracownikowi odpowiedzialnemu za wyłączenie. Podkreśla, że testy te nie były dowodem na to, że maszyny wypowiedziały ludzkości wojnę, lecz interpretuje je jako przykład oszustwa lub manipulacji w celu realizacji celów wyznaczonych systemom.
