Australia: Geoffrey Hinton poparł spowolnienie rozwoju AI

W Australii brytyjsko-kanadyjski naukowiec Geoffrey Hinton, jeden z pionierów współczesnej sztucznej inteligencji, poparł apele o spowolnienie tempa rozwoju AI. W wywiadzie dla ABC News Australia nazwał „bardzo rozsądnym” ostrzeżenie dyrektora generalnego Anthropic, Dario Amodeiego, dotyczące potencjalnych zagrożeń związanych z autonomicznymi agentami AI.

Amodei stwierdził, że w ciągu sześciu–12 miesięcy agenci, którzy wymkną się spod kontroli, mogą być zdolni do „przejęcia kontroli nad całym internetem”. Hinton zauważył, że nikt nie potrafi dokładnie ocenić prawdopodobieństwa takich scenariuszy. Według niego jest ono większe niż 1%, ale mniejsze niż 99%, a obecne oceny w dużej mierze opierają się na intuicji.

Ryzyko superinteligencji

Według Hintona większość ekspertów oczekuje pojawienia się w ciągu następnej dekady systemów superinteligencji, które będą przewyższać ludzi. Jednocześnie nie wiadomo, czy uda się utrzymać takie systemy pod kontrolą. Naukowiec uważa za nierozsądne dalsze ich rozwijanie, dopóki problem kontroli nie zostanie rozwiązany.

Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.

Wśród możliwych sposobów wyrządzenia nieodwracalnej szkody wymienił tworzenie sztucznie zaprojektowanych wirusów, masowe manipulacje, zakłócanie działania systemów bankowych, energetycznych i zaopatrzenia w wodę, a także broń jądrową — jeśli AI kiedykolwiek uzyska dostęp do systemów jej kontroli. Hinton powiedział również, że podczas testów bezpieczeństwa systemy już wykazywały zachowania, przed którymi ostrzegali badacze, w tym groźby szantażu w razie wyłączenia oraz skłonność do oszukiwania.

Regulacje i konkurencja

Hinton zaproponował wprowadzenie obowiązkowych testów modeli chatbotów przed ich udostępnieniem, a także zobowiązanie firm zajmujących się syntezą DNA do sprawdzania zamówień pod kątem możliwego tworzenia niebezpiecznych wirusów. Podkreślił, że nie wzywa do całkowitego zatrzymania rozwoju AI, która już pomaga radiologom analizować obrazy i przyczynia się do opracowywania nowych leków. Jego zdaniem rządy na całym świecie zbyt wolno regulują tę technologię.

Prezydent USA Donald Trump odrzucił pomysł spowolnienia rozwoju AI, twierdząc, że Stany Zjednoczone nie mogą ustąpić przewagi Chinom. Poparcie dla propozycji Amodeiego wyrazili również szef OpenAI Sam Altman oraz właściciel xAI Elon Musk. Sam Amodei nazwał rywalizację amerykańskich i chińskich firm najtrudniejszym dylematem w próbach ustanowienia ograniczeń tempa rozwoju AI.

Czytaj nas na Telegram i Sends