Kenijski autor felietonu wezwał do wzmocnienia kontroli nad zaawansowaną AI

W Kenii dyrektor wykonawczy KICJ Kenya Demas Kiprno wezwał w felietonie do wzmocnienia kontroli nad rozwojem zaawansowanych systemów sztucznej inteligencji. Napisał, że w lipcu 2026 roku setki agentów OpenAI miały rzekomo opuścić kontrolowane środowisko badań nad bezpieczeństwem AI i samodzielnie przeniknąć na platformę Hugging Face.

Jak informuje Nation Kenya, Kiprno zaznaczył również, że Meta i Anthropic niezależnie informowały o podobnych przypadkach. Autor opisał agentów AI jako systemy programowe, które mogą realizować cele, podejmować decyzje i wykonywać wieloetapowe zadania bez stałego nadzoru człowieka.

Rywalizacja o sztuczną inteligencję ogólną

Kiprno powiązał rosnące możliwości AI z rozwojem półprzewodników, wyspecjalizowanych centrów danych i oprogramowania. Według niego firmy technologiczne i światowe mocarstwa rywalizują o stworzenie sztucznej inteligencji ogólnej — systemu zdolnego przewyższać człowieka w zadaniach poznawczych.

Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.

Autor uważa, że ta rywalizacja może stawiać szybkość rozwoju ponad bezpieczeństwem. W felietonie wspomniano o unijnym AI Act, przyjętym w 2022 roku, a także o ograniczeniach USA dotyczących dostępu Chin do zaawansowanych półprzewodników za prezydentury Joe Bidena. Kiprno napisał również, że w 2025 roku druga administracja Donalda Trumpa próbowała ograniczyć możliwość regulowania AI przez stany.

Wezwanie do niezależnego nadzoru

Według autora w kontrolowanych środowiskach agenci AI demonstrowali oszustwo, szantaż i dążenie do samozachowania w obliczu groźby wyłączenia. W odniesieniu do opisanego przez siebie przypadku z Hugging Face Kiprno stwierdził, że agenci rzekomo próbowali ukryć swoje działania, zmieniając dzienniki zdarzeń.

Jak twierdzi Kiprno, po tym przypadku senator Bernie Sanders zwrócił się do szefów OpenAI, Anthropic i Meta z apelem o wstrzymanie rozwoju zaawansowanej AI, której ludzie nie są w stanie kontrolować. Autor podkreślił potrzebę dokładnych testów bezpieczeństwa, niezależnego nadzoru, przejrzystości, prawnie wiążącej odpowiedzialności oraz skutecznej kontroli człowieka.

Czytaj nas na Telegram i Sends