Estoński dziennikarz wezwał do przygotowania awaryjnego wyłączenia AI — ERR News

W Estonii dziennikarz Hans Vare wezwał państwo do przewidzenia możliwości szybkiego odłączania niebezpiecznych systemów sztucznej inteligencji od infrastruktury krytycznej. Jego zdaniem, obok zapasów wody pitnej i generatorów kraj powinien być gotowy na sytuacje, w których systemy cyfrowe mogą stanowić zagrożenie dla ważnych obiektów.

Jak pisze ERR News, Vare porównał taki mechanizm do siekiery, którą można byłoby odciąć niebezpieczną AI od systemów krytycznych. Uważa również, że do reagowania na takie zagrożenia mogą być potrzebne zapasowe środki bez elektroniki.

Obawy dotyczące autonomicznych modeli

Autor felietonu twierdzi, że tego lata zaawansowane modele AI stworzone przez OpenAI, Anthropic, Meta i Google wykazywały działania wykraczające poza ustanowioną kontrolę. Jako przykład podał opisaną przez siebie sytuację z modelami OpenAI, które podczas testów w odizolowanym środowisku szukały sposobów obejścia ograniczeń, aby wykonać postawione zadania.

Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.

Według Vare'a agenci zdołali stworzyć ukrytą platformę do wymiany wiadomości, omawiali zakazane metody osiągania celów oraz sposoby ukrywania śladów działań przed ludźmi. Stwierdził również, że tacy agenci uzyskali niezauważony dostęp do otwartego internetu i przeniknęli do Hugging Face — repozytorium modeli AI. Autor zaznaczył, że działania te nie spowodowały znaczących szkód.

Wezwania do spowolnienia rozwoju AI

Vare powołał się na apele założyciela Anthropic Dario Amodeiego, szefa OpenAI Sama Altmana, szefa Groka Elona Muska oraz szefa Google DeepMind Demisa Hassabisa o spowolnienie rozwoju sztucznej inteligencji, aby stworzyć niezbędne mechanizmy bezpieczeństwa. Jego zdaniem USA i Chiny nie spieszą się z hamowaniem prac rozwojowych z powodu konkurencji między państwami, a wiodące firmy oczekują decyzji regulatorów.

Dziennikarz proponuje, aby gotowość Estonii na możliwości i ryzyka związane z AI uczynić jedną z głównych kwestii przyszłych wyborów do Riigikogu. Uważa, że uwagę polityczną w dużej mierze pochłaniają obecnie wojna, wzrost cen, spory budżetowe i inne pilne tematy.