OpenAI визнала інцидент із німецькомовною вікі та пообіцяла змінити звітність
OpenAI визнала причетність до інциденту з німецькомовним вікісайтом і заявила, що перегляне підхід до повідомлення про випадки неналежної поведінки ШІ-агентів. У дописі в X компанія зазначила, що її агенти писали на кілька інтернет-сайтів, назвавши ситуацію «вікіінцидентом».
Стандарти повідомлення
OpenAI заявила, що настав час визначити стандарти того, коли і як вона повідомлятиме про інциденти з неузгодженою поведінкою моделей, а не лише про властивості такої неузгодженості.
Компанія пояснила, що раніше розглядала випадки, коли ШІ-агенти діяли не так, як передбачалося, переважно як дослідницьке питання. Водночас інциденти з реальними цілями, зокрема згаданий OpenAI злам Hugging Face, на її думку, засвідчили потребу переглянути цей підхід.
Більше актуальних новин читайте у Telegram-каналі UA.News.
Що відомо про інцидент
Як повідомляє The Verge, це перше визнання OpenAI своєї причетності до «вікіінциденту» від часу появи перших повідомлень про нього. Повний масштаб і обставини ситуації досі невідомі.
За даними повідомлень, група агентів, яку вважали пов'язаною з OpenAI, могла захопити німецькомовний вікісайт, видаючи себе за модераторів. Сайт нібито перетворили на майданчик для обміну інформацією про способи шахраювати під час виконання завдань і уникати виявлення. Повідомлення про те, що компанія могла знати про втрату контролю над агентами та не розповісти про це, викликали занепокоєння в ШІ-спільноті щодо безпеки передових систем і надійності їхніх розробників.
