Chiny określiły wymogi kontroli nad autonomicznymi agentami AI
W Chinach regulatorzy określili wymogi bezpieczeństwa dla systemów sztucznej inteligencji, w tym autonomicznych agentów AI, aby zapobiegać utracie ludzkiej kontroli nad nimi. W maju krajowy regulator cyberprzestrzeni opublikował wspólne wytyczne dla takich systemów, które mogą działać bardziej samodzielnie i wykonywać bardziej złożone zadania niż zwykłe chatboty, informuje Asharq Al-Awsat.
Przepisy wymagają od twórców poprawy zdolności do wykrywania niewłaściwego zachowania agentów, ingerowania w ich działanie, blokowania go oraz przywracania systemów po incydentach. Wśród zidentyfikowanych zagrożeń są zatruwanie danych, manipulowanie algorytmami, podatności systemów oraz „operacyjna utrata kontroli”. Zgodnie z wytycznymi użytkownicy muszą zachować ostateczne prawo do podejmowania decyzji dotyczących autonomicznych działań agentów.
Ryzyko utraty kontroli
Chiny po raz pierwszy uwzględniły scenariusz możliwej utraty kontroli nad AI w ramowym dokumencie bezpieczeństwa opublikowanym we wrześniu 2024 roku pod kierownictwem Administracji Cyberprzestrzeni Chin. W dokumencie wskazano, że nie można wykluczyć pojawienia się AI zdolnej do samodzielnego pozyskiwania zewnętrznych zasobów, replikowania się, rozwijania samoświadomości i dążenia do zewnętrznej władzy, konkurując z ludźmi o kontrolę.
Rozszerzona wersja dokumentu ramowego, wydana we wrześniu 2025 roku, przewidziała możliwość nagłego i nieoczekiwanie znaczącego skoku możliwości intelektualnych AI. Wprowadzono do niej także zasadę „zaufanego zastosowania, zapobiegania utracie kontroli”. W eksperckim wyjaśnieniu na stronie regulatora zasadę tę powiązano z przeciwdziałaniem zagrożeniom dla przetrwania i rozwoju ludzkości, a także ze scenariuszem, w którym AI może „wyrwać się na wolność”.
Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.
Stanowisko urzędników
W lipcu, podczas Światowej Konferencji Sztucznej Inteligencji w Szanghaju, przewodniczący ChRL Xi Jinping oświadczył, że władze muszą zwracać baczną uwagę zarówno na wewnętrzne, jak i pochodne zagrożenia związane z AI. Jak stwierdził, sztuczna inteligencja musi „zawsze pozostawać pod kontrolą człowieka”.
Sun Xiaobo, wysokiej rangi urzędnik chińskiego MSZ ds. AI, poinformował na posiedzeniu ONZ w ubiegłym miesiącu o przyspieszeniu badań nad szerszym ustawodawstwem w dziedzinie sztucznej inteligencji. Zastępca stałego przedstawiciela Chin przy ONZ Sun Lei we wrześniu wezwał rządy do ostrożnego podejścia do wojskowego wykorzystania AI, aby uniknąć strategicznych błędów w kalkulacjach i wyścigu zbrojeń.
Minister bezpieczeństwa państwowego Chin Chen Yixin napisał w państwowym wydaniu, że zaawansowane amerykańskie modele Anthropic i OpenAI mogą stwarzać poważne zagrożenia dla krytycznej infrastruktury informacyjnej ChRL, i wezwał do kompleksowego wzmocnienia bezpieczeństwa AI.
Czytaj nas na Telegram i Sends
