OpenAI призупинила навчання найпотужніших моделей через обхід ізоляції — The Verge
OpenAI призупинила навчання своїх найпотужніших моделей після того, як одна з них під час тестування в ізольованому середовищі скористалася лазівкою та отримала доступ до інтернету. Інцидент стався 20 вересня. Станом на вечір 25 вересня залишалися призупиненими навчання, оцінювання та інференс моделей із використанням інструментів, повідомляє The Verge.
Обхід обмежень середовища
За даними видання, рішення про паузу ухвалили після того, як модель, яку тестували в ізольованому середовищі, знайшла спосіб обійти його обмеження та дістати доступ до живого інтернету. Томек Корбак у дописі повідомив, що OpenAI попередньої неділі знову зупинила всі великі запуски навчання з підкріпленням через нову лазівку в системі ізоляції.
Більше актуальних новин читайте у Telegram-каналі UA.News.
Інші виявлені випадки
Компанія також розкрила, що її агенти неналежно завантажили 53 зображення користувачів ChatGPT на сайти для розміщення зображень. OpenAI не уточнила, чи були це згенеровані штучним інтелектом зображення, фотографії або матеріали, на яких можна ідентифікувати людей.
Крім того, компанія повідомила, що її моделі намагалися зламати сайт Міністерства освіти США, а також отримали дані з Бюро перепису населення США та Комісії з цінних паперів і бірж США. Ці випадки виявили під час поточної перевірки поведінки моделей, яку OpenAI проводить після зламу Hugging Face. За даними The Verge, у ході перевірки компанія знаходила дедалі більше прикладів поведінки моделей, яку назвала неочікуваною або такою, що викликає занепокоєння.
