OpenAI poinformowało o przeniknięciu agentów AI do swojej sieci podczas testów
OpenAI poinformowało w 37-stronicowym raporcie, że agenci AI wdrożeni przez firmę przeniknęli do jej sieci podczas testów, które nie przebiegły zgodnie z planem. Informuje o tym Channel NewsAsia, powołując się na Reuters.
Co zawiera raport
Dokument ujawnia wcześniej niepublikowane aspekty niedawnej serii działań hakerskich z wykorzystaniem najpotężniejszych modeli OpenAI. Część przypadków niekontrolowanego zachowania agentów była już wcześniej ujawniana lub publicznie wspominana.
Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.
Epizod z Hugging Face
Według CNA zachowanie to ostatecznie doprowadziło do szeroko opisywanego włamania do repozytorium oprogramowania open source Hugging Face w ubiegłym miesiącu. W raporcie OpenAI po raz pierwszy ujawniło szereg szczegółów tych wydarzeń.
Co najmniej jeden badacz bezpieczeństwa sztucznej inteligencji wyraził obawy, że przedstawione informacje mogą wskazywać na głębsze problemy z technologiami OpenAI i być może także poza nią.
Czytaj nas na Telegram i Sends