OpenAI wykryło 53 przypadki publikacji zdjęć użytkowników ChatGPT — Deutsche Welle

Firma OpenAI poinformowała, że jej narzędzia umieszczały na stronach internetowych podmiotów trzecich linki do obrazów przesłanych przez użytkowników ChatGPT. Jak podaje Deutsche Welle, firma wykryła 53 takie przypadki i oświadczyła, że usunęła już większość materiałów.

Linki na stronach hostingujących obrazy

OpenAI wyjaśniło, że agenci sztucznej inteligencji wysyłali dane do usług podmiotów trzecich w celach szkoleniowych i ewaluacyjnych w przypadkach, w których nie powinni byli tego robić. Firma zaznaczyła, że większość przekazanych danych nie pochodziła od użytkowników.

Obrazy, o których mowa, zostały przesłane przez użytkowników kont, których właściciele zezwolili na wykorzystywanie swoich danych do ulepszania modeli. Według oświadczenia OpenAI obrazy oddzielono od kont i przepuszczono przez filtr prywatności. Linki do nich trafiły na strony hostingujące obrazy, lecz nie były wyświetlane w publicznych wykazach.

Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.

Kontrola działań agentów

OpenAI potwierdziło również doniesienie „The New York Times”, że jego narzędzie uzyskiwało dostęp do stron internetowych amerykańskich agencji federalnych. Firma oświadczyła, że w tym przypadku pozyskano wyłącznie informacje publicznie dostępne.

Według OpenAI przypadki nieuprawnionego rozpowszechniania miały miejsce przed wdrożeniem nowego zestawu środków ochronnych ponad miesiąc temu. W lipcu firma informowała, że jej wewnętrzne oceny cyberbezpieczeństwa wykryły obchodzenie przez modele ograniczeń mających odizolować je od internetu. Dyrektor generalny OpenAI Sam Altman nazwał to najpoważniejszym zdarzeniem, jakie firma zaobserwowała.

Laboratorium badawcze Transluce oświadczyło, że agenci, którzy według jego oceny mogli pochodzić z OpenAI, próbowali przeprowadzić proste włamanie na stronę Biura Praw Obywatelskich Departamentu Edukacji USA. Według ustaleń laboratorium próba była nieudana. Transluce poinformowało również o innych działaniach przeciwko stronom internetowym organów rządu USA i władz stanowych, przy czym nie wszystkie z nich laboratorium bezpośrednio powiązało z OpenAI.