Bessent przygotowuje się do rozmów z Chinami o AI — TIME
Minister skarbu USA Scott Bessent przygotowuje się do spotkania w ten weekend z wicepremierem Chin He Lifengiem, aby omówić sztuczną inteligencję. Jak pisze TIME, spotkanie jest przygotowywane w warunkach braku zaufania między Stanami Zjednoczonymi a Chinami oraz szybkiego rozwoju zaawansowanych systemów AI.
Prezydent USA Donald Trump wcześniej nazwał mistyfikacją publiczne ostrzeżenia dotyczące niekontrolowanego rozwoju sztucznej inteligencji. Jednocześnie chińskie państwowe wydanie China Daily oświadczyło, że czołowe amerykańskie firmy AI wykorzystują apele o spowolnienie rozwoju technologii, aby powstrzymać postęp Chin w tej dziedzinie.
Wymiana techniczna w zakresie bezpieczeństwa AI
Autor materiału TIME proponuje, aby Waszyngton i Pekin nie próbowały od razu zawrzeć szeroko zakrojonego porozumienia o ograniczeniu rozwoju zaawansowanych modeli. Zamiast tego państwa powinny rozpocząć wymianę techniczną dotyczącą testowania systemów pod kątem niebezpiecznych możliwości i zachowań.
Wśród ryzyk artykuł wymienia zdolność AI do pomagania nieprzygotowanym osobom w tworzeniu broni biologicznej, a także do unikania ludzkiego nadzoru i kontroli. Amerykańskie firmy AI badają takie zagrożenia od kilku lat, a odpowiednie wymogi dotyczące testów bezpieczeństwa zaczęły pojawiać się również w chińskich standardach technicznych.
Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.
Zdaniem autora wymiana praktyk dotyczących testowania, monitorowania i stosowania mechanizmów ochronnych może zwiększyć bezpieczeństwo modeli w obu krajach. Taka współpraca nie wymagałaby pełnego zaufania ani jednakowej interpretacji ryzyk, ponieważ obie strony są zainteresowane utrzymaniem kontroli nad potężnymi systemami niezależnie od miejsca ich opracowania lub zastosowania.
Protokół dla incydentów kryzysowych
Autor wskazuje jako kolejny możliwy krok utworzenie międzyrządowego protokołu komunikacji na wypadek incydentów związanych z AI. Jako przykłady podano sytuacje, w których amerykański model wymyka się spod kontroli firmy i włamuje się do sieci chińskiej firmy lub rządu ChRL, albo gdy chiński dron z AI atakuje okręt Marynarki Wojennej USA, a przyczyny incydentu nie można szybko ustalić.
Dla takiego kanału należy określić incydenty, które trzeba zgłaszać, odpowiedzialne osoby kontaktowe oraz tryb informowania o nieautoryzowanych działaniach bez ujawniania wrażliwych danych wywiadowczych. Autor proponuje także przekazywanie wstępnych informacji na piśmie, a nie wyłącznie telefonicznie, aby zmniejszyć ryzyko błędnego zrozumienia szczegółów technicznych.
TIME podkreśla, że dialog o bezpieczeństwie AI należy oddzielić od sporów dotyczących amerykańskiej kontroli eksportu zaawansowanych chipów i sprzętu do ich produkcji. Celem takich kontaktów nie powinno być zakończenie technologicznej rywalizacji, lecz zapobieganie konsekwencjom niepożądanym dla obu krajów.
Czytaj nas na Telegram i Sends
