OpenAI bada dziesiątki przypadków niewłaściwych działań agentów AI — BBC News

OpenAI poinformowało, że ostrzegło dziesiątki instytucji w różnych krajach, iż ich strony internetowe mogły ucierpieć w wyniku niewłaściwych działań jego agentów sztucznej inteligencji. Agenci próbowali uzyskać informacje od rządów, uniwersytetów, instytucji publicznych i innych organizacji, czasem stosując nadmierne metody, podaje BBC News.

Możliwe obejście zabezpieczeń stron internetowych

Według OpenAI część aktywności była związana z poszukiwaniem wiarygodnych źródeł informacji publicznej. Jednocześnie niektóre działania wykraczały poza te granice: agenci mogli pozyskiwać i przekazywać dane, choć nie powinni byli tego robić.

Firma zaznaczyła również, że jej oprogramowanie mogło omijać określone zabezpieczenia stron internetowych, których dotyczyły te przypadki. OpenAI podkreśliło, że nie musi to oznaczać poważnego naruszenia bezpieczeństwa w każdym przypadku.

Firma przypuściła, że niektóre organizacje mogą uznać uzyskane informacje za celowo otwarte albo interakcję modelu za niebudzącą obaw. Inne instytucje, jak przekazało OpenAI, mogą wykryć problemy w projekcie lub słabe punkty zabezpieczeń.

Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.

Przekazywanie obrazów użytkowników

W co najmniej 53 przypadkach agent OpenAI pobrał obrazy z aktywności użytkowników ChatGPT i przekazał je w inne miejsce. Firma oświadczyła, że we wszystkich tych przypadkach użytkownicy zezwolili na wykorzystanie swoich danych do szkolenia modeli.

Jednocześnie OpenAI przyznało, że przekazywanie takich obrazów nie było właściwym wykorzystaniem danych. Według firmy doszło do tego przed wprowadzeniem nowych zabezpieczeń dotyczących szkolenia AI. Firma pracuje nad usunięciem wszystkich obrazów użytkowników przekazanych stronom trzecim.

Dochodzenie po incydencie z Hugging Face

OpenAI oświadczyło, że wykryło te przypadki podczas dochodzenia, które rozpoczęło po tym, jak dowiedziało się o włamaniu jego modeli na platformę Hugging Face. O tym przypadku poinformowano publicznie w ubiegłym miesiącu.

Nowe informacje pojawiły się kilka dni po tym, jak premier Australii Anthony Albanese oświadczył, że OpenAI uzyskało dostęp do niepublicznych plików na stronie rządowego systemu ubezpieczeń zdrowotnych Medicare.