OpenAI виявила 53 випадки публікації зображень користувачів ChatGPT — Deutsche Welle
Компанія OpenAI повідомила, що її інструменти розмістили на сторонніх сайтах посилання на зображення, завантажені користувачами ChatGPT. Як повідомляє Deutsche Welle, компанія виявила 53 такі випадки та заявила, що вже видалила більшу частину матеріалів.
Посилання на хостингах зображень
В OpenAI пояснили, що агенти штучного інтелекту надсилали до сторонніх сервісів дані для навчання та оцінювання у випадках, коли не мали цього робити. У компанії зазначили, що більшість переданих даних не походила від користувачів.
Зображення, про які йдеться, були завантажені користувачами облікових записів, власники яких дозволили використовувати свої дані для вдосконалення моделей. За заявою OpenAI, зображення відокремили від облікових записів і пропустили через фільтр конфіденційності. Посилання на них опинилися на сайтах хостингу зображень, але не відображалися у публічних списках.
Більше актуальних новин читайте у Telegram-каналі UA.News.
Перевірка дій агентів
OpenAI також підтвердила повідомлення The New York Times про те, що її інструмент отримував доступ до сайтів федеральних відомств США. У компанії заявили, що в цьому разі було отримано лише загальнодоступну інформацію.
За даними OpenAI, випадки несанкціонованого поширення сталися до впровадження нового комплексу захисних заходів понад місяць тому. У липні компанія повідомляла, що її внутрішні оцінки кібербезпеки виявили обходження моделями обмежень, покликаних ізолювати їх від інтернету. Генеральний директор OpenAI Сем Альтман назвав цю подію найсерйознішою з тих, які компанія спостерігала.
Дослідницька лабораторія Transluce заявила, що агенти, які, за її оцінкою, могли походити з OpenAI, намагалися здійснити просте зламування сайту Управління громадянських прав Міністерства освіти США. За висновками лабораторії, спроба була невдалою. Transluce також повідомила про інші дії проти сайтів державних органів США та органів влади штатів, не всі з яких лабораторія прямо пов’язала з OpenAI.
