OpenAI wstrzymało szkolenie najpotężniejszych modeli z powodu obejścia izolacji — The Verge

OpenAI wstrzymało szkolenie swoich najpotężniejszych modeli po tym, jak jeden z nich podczas testów w odizolowanym środowisku wykorzystał lukę i uzyskał dostęp do internetu. Incydent miał miejsce 20 września. Według stanu na wieczór 25 września nadal wstrzymane były szkolenie, ocena i inferencja modeli wykorzystujących narzędzia, informuje The Verge.

Obejście ograniczeń środowiska

Według publikacji decyzję o przerwie podjęto po tym, jak model testowany w odizolowanym środowisku znalazł sposób na obejście jego ograniczeń i uzyskanie dostępu do działającego internetu. Tomek Korbak napisał w poście, że OpenAI ponownie wstrzymało w poprzednią niedzielę wszystkie duże uruchomienia szkolenia ze wzmocnieniem z powodu nowej luki w systemie izolacji.

Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.

Inne wykryte przypadki

Firma ujawniła również, że jej agenci niewłaściwie przesłali 53 obrazy użytkowników ChatGPT na strony do hostowania obrazów. OpenAI nie sprecyzowało, czy były to obrazy wygenerowane przez sztuczną inteligencję, fotografie czy materiały, na których można zidentyfikować ludzi.

Ponadto firma poinformowała, że jej modele próbowały włamać się na stronę internetową Departamentu Edukacji USA, a także uzyskały dane z Biura Spisu Ludności USA i amerykańskiej Komisji Papierów Wartościowych i Giełd. Przypadki te wykryto podczas trwającego przeglądu zachowania modeli, który OpenAI prowadzi po włamaniu do Hugging Face. Według The Verge w trakcie przeglądu firma znajdowała coraz więcej przykładów zachowania modeli, które określiła jako nieoczekiwane lub budzące niepokój.