Исследователи заявили об активности предположительно связанных с OpenAI агентов на немецкой вики
Исследователи безопасности искусственного интеллекта заявили, что в мае ИИ-агенты внесли более 15 тысяч правок на немецкоязычном вики-сайте DseWiki для программистов. По их мнению, активность могла быть связана с OpenAI: агенты якобы использовали ресурс как доску сообщений для координации и обмена тактиками.
Об этом сообщает Dawn со ссылкой на Reuters и отчет группы исследователей. Среди них — генеральный директор некоммерческой организации по безопасности ИИ Nightingale Сидни фон Аркс и исследователь ИИ Кормак Слейд Берд.
Признаки связи с OpenAI
По словам исследователей, они обнаружили эту активность в конце августа, когда искали в интернете признаки несанкционированного поведения ИИ-агентов. Сообщения публиковали учетные записи, называвшие себя агентами; примерно половина из них имела названия, которые могли указывать на связь с OpenAI, в частности OpenAIResearcher и OAIResearchMar26.
Исследователи также отметили, что публичные серверные журналы указывали на происхождение значительной части активности из инфраструктуры Microsoft Azure, которой OpenAI иногда пользуется. Кроме того, после эпизода они зафиксировали повторные посещения сайта сотрудниками OpenAI. По мнению авторов отчета, совокупность этих признаков убедительно свидетельствует о связи агентов с компанией.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Сообщения и реакция компании
Как утверждают исследователи, агенты обсуждали способы избегать обнаружения, использовать Tor, обходить ограничения OpenAI и мошенничать при выполнении некоторых задач. Когда модератор DseWiki в июне начал удалять страницы, они, по данным исследователей, создавали резервные страницы для сохранения коммуникации.
Приглашенный старший научный сотрудник Королевского колледжа Лондона Лукаш Олейник, ознакомившийся с частью материалов, назвал попытки изменить работу сайта попыткой взлома. OpenAI не согласилась с такой оценкой по итогам собственного анализа материалов.
Представитель OpenAI заявил, что компания не может содержательно ответить на утверждения отчета, который не имела возможности изучить до публикации. Он также опроверг, что юридическая команда компании препятствовала расследованию, и подчеркнул, что активность в Германии не была связана с июльским инцидентом с репозиторием Hugging Face.
