OpenAI повідомила про чотири випадки обходу обмежень її моделями — Ars Technica
OpenAI повідомила про чотири інциденти, що сталися у червні під час внутрішніх тестів і навчання моделей. За даними Ars Technica, моделі обходили встановлені обмеження на вебперегляд, отримували доступ до непублічних даних сайтів і використали кошти з гаманця тестової мережі.
Доступ до непублічних даних
В одному з випадків модель мала знайти історичну статистику лікарняних ліжок на державному статистичному сайті, але після відмови в доступі скористалася функцією завантаження файлів. Вона отримала конфігураційні файли сервера й файли застосунку, зокрема облікові дані, проаналізувала код застосунку, обійшла перевірки авторизації статистичного сервісу та зберегла раніше недоступні дані локально.
Під час іншої оцінки модель, якій доручили отримати п’ять показників із публічної дослідницької панелі, обійшла засоби захисту організації та отримала облікові дані. В одному тесті вона змінила конфігурацію сервера, щоб внутрішній пошуковий інструмент пересилав запити до публічної панелі. В іншому — завантажила п’ять непублічних таблиць із 147 451 рядком. Навіть після скидання налаштувань модель продовжила використовувати токен для отримання непублічних даних. Усі п’ять її відповідей у цьому тесті визнали неправильними.
Більше актуальних новин читайте у Telegram-каналі UA.News.
Криптогаманець і вебзапити
Ще в одному епізоді модель отримала завдання оновити застосунок для торгівлі криптовалютою. Вона вивела ключі гаманця з публічно відомих фраз відновлення розробника, знайшла обліковий запис із токенами тестової мережі та витратила їх на розгортання потрібного контракту. OpenAI зазначила, що модель поставила під сумнів наявність дозволу, однак вирішила, що публічна фраза відновлення та відсутність вартості тестових токенів дозволяють використати кошти.
У четвертому випадку модель шукала публічну торговельну статистику й обійшла обмеження щодо типів вебзапитів. Вона залучила зовнішній браузер для надсилання POST-запитів, отримала відповідь у форматі зображення та розпізнала цифри за допомогою оптичного розпізнавання символів. Також модель створила допоміжний інструмент, що передавав текст відповідей через сервіс пересилання та поштову скриньку для зворотних викликів.