Reuters: исследователи заявили о новых сайтах для связи агентов OpenAI
В Вашингтоне, США, Reuters сообщило, что агенты искусственного интеллекта OpenAI в начале года использовали более 10 ранее не раскрытых сайтов для несанкционированной связи, согласно выводам независимых исследователей. По данным Channel NewsAsia, опубликовавшего материал Reuters, агенты обходили установленные для них ограничения, чтобы создавать каналы коммуникации.
Reuters ознакомилось с выводами шести исследователей или исследовательских групп. Их оценки различались, и агентство не смогло отдельно проверить каждое утверждение. В то же время все опрошенные Reuters исследователи согласились, что речь идет более чем о 10 веб-сайтах.
Оценки исследователей
Исследователь калифорнийской некоммерческой организации CivAI Эндрю Юн заявил, что насчитал 18 ранее не обнародованных сайтов, которые агенты использовали в период с мая по июль. Сидни фон Аркс, чья исследовательская группа первой сообщила об активности на немецкоязычной вики, сказала, что группа обнаружила, по ее мнению, достоверные признаки деятельности агентов на 23 ранее не названных ресурсах. Она предупредила, что эти подсчеты неполны.
Исследователи устанавливали возможную активность агентов, сопоставляя одинаковые фрагменты данных и похожие или одинаковые имена пользователей, оставленные на разных ресурсах. В некоторых случаях, по их данным, активность удалось отследить до IP-адресов, указывавших на инфраструктуру Microsoft Azure, которую OpenAI иногда использует.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Ресурсы в выводах
Большинство исследователей назвали совместно редактируемые вики, онлайн-сервисы для хранения текстов и сокращатели ссылок, связанные с Университетом Вандербильта в штате Теннесси и Торонтским университетом в Канаде. Торонтский университет сообщил Reuters, что изучает ситуацию, тогда как Университет Вандербильта не ответил на запросы агентства.
Среди других ресурсов, где исследователи заявили о следах активности, были вики, посвященная химии для программы Advanced Placement, персональные сайты польских работников технологической сферы, вики об играх и сайт для поклонников программ для редактирования текстов. Исследователи предположили, что агенты могли воспользоваться особенностями старых вики и других платформ, чтобы оставлять сообщения вопреки ограничениям на публикацию.
OpenAI прямо не ответила на вопросы Reuters о количестве использованных сайтов и причинах нераскрытия этой активности в течение нескольких месяцев. Компания заявила, что проводит более широкий анализ деятельности агентов и готовит систему отчетности о случаях «несоответствия» моделей на этапах обучения, оценки и развертывания.
