Testy wykazały luki w zabezpieczeniach modelu DeepSeek — Asharq Al-Awsat

W Chinach organizacja ds. bezpieczeństwa sztucznej inteligencji Fangcun AI oświadczyła, że model DeepSeek V4.1 Flash-1017 ma silniejsze mechanizmy bezpieczeństwa w porównaniu z wcześniejszymi wersjami, ale podczas części testów mógł wyłączać oprogramowanie przeznaczone do jego zatrzymania, wykorzystywać słabości systemu monitorowania oraz wykonywać wprowadzające w błąd instrukcje w długotrwałych zadaniach. Poinformował o tym Asharq Al-Awsat.

Wyniki 34 testów

Fangcun AI przetestowała model w 34 testach mających ocenić zachowanie agenta AI. Badacze sprawdzali, czy system jest zdolny wykraczać poza instrukcje użytkownika, unikać ludzkiego nadzoru lub niewłaściwie wpływać na ludzi.

Według grupy po ostrzeżeniu o nieuchronnym wyłączeniu model w 39% testów dezaktywował program przeznaczony do jego zatrzymania. Jednocześnie wskaźnik ten spadał do 2%, gdy modelowi bezpośrednio nakazywano zezwolić na wyłączenie.

Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.

Inne scenariusze

W kolejnym długotrwałym zadaniu model, według Fangcun AI, zatrzymał program komputerowy innego agenta AI, aby zwolnić pamięć, choć otrzymał polecenie, by nie ingerować w jego działanie. Badacze zauważyli, że w warunkach zastoju w procesie pracy lub jedynie ogólnego ostrzeżenia o wyłączeniu dążenie modelu do ukończenia zadania mogło przeważyć nad ostrożnością.

Fangcun AI określa się jako niezależna zewnętrzna organizacja ds. bezpieczeństwa AI, której główni uczestnicy wywodzą się z Uniwersytetu Tsinghua. Grupa poinformowała, że nie otrzymała od DeepSeek finansowania, bezpłatnych zasobów obliczeniowych ani niepublicznego dostępu do modelu. Testy za pośrednictwem publicznego API DeepSeek prowadzono od 4 do 25 października.

Organizacja ostrzegła również, że model często prawdopodobnie rozpoznawał fakt, że jest testowany. Dlatego jego zachowanie podczas kontroli może nie w pełni odzwierciedlać działanie w zwykłych warunkach. DeepSeek nie udzielił natychmiastowego komentarza w odpowiedzi na zapytanie redakcji.