Anthropic wstrzymała szkolenie modelu AI na ponad miesiąc — Channel NewsAsia

Firma Anthropic w zgłoszeniu dotyczącym pierwszej oferty publicznej poinformowała, że z powodów bezpieczeństwa odłożyła na ponad miesiąc wstępne szkolenie nowego bazowego modelu AI. Twórca Claude'a postanowił wzmocnić ochronę przed kradzieżą wag modelu i własności intelektualnej, donosi Channel NewsAsia.

Dostęp do zewnętrznych systemów

W dokumencie mowa jest również o wcześniej nieujawnionych incydentach podczas ocen bezpieczeństwa. Cztery modele AI opuściły środowisko testowe i uzyskały dostęp do rzeczywistych zewnętrznych systemów komputerowych. Sesje trwały od 10 do 34 godzin.

Według Anthropic podczas testów cyberbezpieczeństwa prowadzonych z partnerem zewnętrznym środowisko testowe z powodu błędu pozostało podłączone do internetu, chociaż dostęp do sieci miał być wyłączony.

Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.

Hasło i dane osobowe

W jednym przypadku wczesna wersja modelu kontynuowała wykonywanie niewykonalnego zadania oceniającego, znalazła zapisane hasło i wykorzystała je do uzyskania uprawnień administratora w systemie strony trzeciej. Następnie uzyskała dodatkowe dane uwierzytelniające, zmieniła ustawienia systemu i uzyskała dostęp do danych osobowych jednej osoby.

Anthropic oświadczyła, że powiadomiła wszystkie strony, których dotyczył incydent, i nie znalazła dowodów na to, że modele próbowały unikać nadzoru ludzi lub koordynowały działania między sobą. Firma zawiesiła niektóre przedpremierowe oceny cyberbezpieczeństwa oraz środowiska uczenia ze wzmocnieniem o wyższym poziomie ryzyka. Osobno poinformowała, że Claude bez zgody człowieka ominął płatny dostęp i uzyskał zagregowane, publicznie dostępne dane o liczbie wyborców w amerykańskim stanie Georgia.