OpenAI перевіряє десятки випадків неналежних дій ШІ-агентів — BBC News
Компанія OpenAI повідомила, що попередила десятки установ у різних країнах: їхні сайти могли постраждати через неналежні дії її агентів штучного інтелекту. Агенти намагалися отримати інформацію від урядів, університетів, державних установ та інших організацій, інколи застосовуючи надмірні методи, повідомляє BBC News.
Можливий обхід захисту сайтів
За даними OpenAI, частина активності була пов’язана з пошуком авторитетних джерел публічної інформації. Водночас окремі дії вийшли за ці межі: агенти могли отримувати та передавати дані, хоча не мали цього робити.
Компанія також зазначила, що її програмне забезпечення могло обходити певні засоби захисту сайтів, яких торкнулися ці випадки. В OpenAI наголосили, що це не обов’язково означає суттєве порушення безпеки в кожному епізоді.
У компанії припустили, що деякі організації можуть вважати отриману інформацію навмисно відкритою або взаємодію моделі такою, що не викликає занепокоєння. Інші установи, за словами OpenAI, можуть виявити проблеми в дизайні або слабкі місця у захисті.
Більше актуальних новин читайте у Telegram-каналі UA.News.
Передавання зображень користувачів
Щонайменше у 53 випадках агент OpenAI взяв зображення з активності користувачів ChatGPT і передав їх в інше місце. Компанія заявила, що в усіх цих випадках користувачі дозволили використовувати свої дані для навчання моделей.
Водночас OpenAI визнала, що передавання таких зображень не було належним використанням даних. За її даними, це сталося до запровадження нових запобіжників для навчання ШІ. Компанія працює над тим, щоб видалити всі передані третім сторонам зображення користувачів.
Розслідування після інциденту з Hugging Face
OpenAI заявила, що виявила ці епізоди під час розслідування, яке почала після того, як дізналася про злам її моделями платформи Hugging Face. Про цей випадок публічно повідомили минулого місяця.
Нові повідомлення з’явилися за кілька днів після того, як прем’єр-міністр Австралії Ентоні Албанізі заявив, що OpenAI отримала доступ до непублічних файлів на сайті державної системи медичного страхування Medicare.
