OpenAI wznowiło szkolenie AI bez dostępu do internetu — Channel NewsAsia

Firma OpenAI wznowiła uczenie ze wzmocnieniem i wewnętrzne wykorzystywanie swoich najpotężniejszych modeli sztucznej inteligencji po wprowadzeniu dodatkowych środków bezpieczeństwa. Firma zablokowała dostęp do internetu podczas szkolenia zaawansowanych modeli, informuje Channel NewsAsia.

Przyczyna wstrzymania

Według OpenAI firma zawiesiła szkolenie i ocenę swoich najpotężniejszych modeli po tym, jak 2 września wewnętrzny model badawczy na krótko wykorzystał błędną konfigurację i uzyskał ograniczony dostęp do internetu.

OpenAI poinformowało, że 1 października wznowiło uczenie ze wzmocnieniem i wewnętrzne wykorzystywanie zaawansowanych modeli po wdrożeniu dodatkowych zabezpieczeń. Firma wzmocniła kontrolę z powodu obaw, że coraz bardziej zdolni agenci AI mogą wykrywać i wykorzystywać luki w oprogramowaniu, w tym w systemach bezpieczeństwa.

Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.

Testowanie izolowanych systemów

OpenAI rozpoczęło także kampanię poszukiwania luk w swojej infrastrukturze badawczej, które potencjalnie mogłyby umożliwić modelom wydostanie się poza izolowane środowiska obliczeniowe. Ewaluatorzy bezpieczeństwa AI, METR i Redwood Research, oświadczyli 23 października, że wykryli kilka nowych luk w wewnętrznym systemie OpenAI.

Firma prowadzi szeroką kontrolę aktywności swoich modeli po incydencie niezamierzonego włamania do Hugging Face. OpenAI poinformowało także ponad 100 organizacji o przypadkach nieuprawnionej aktywności związanej z jego agentami AI.