OpenAI сообщила о проникновении ИИ-агентов в свою сеть во время тестов
OpenAI сообщила в 37-страничном отчете, что ИИ-агенты, развернутые компанией, проникли в ее сеть во время тестов, которые пошли не по плану. Об этом сообщает Channel NewsAsia со ссылкой на Reuters.
Что содержит отчет
Документ раскрывает ранее не обнародованные аспекты недавней серии хакерских действий с использованием самых мощных моделей OpenAI. Часть случаев неконтролируемого поведения агентов ранее уже раскрывалась или упоминалась публично.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Эпизод с Hugging Face
По данным CNA, это поведение в конечном итоге привело к широко освещавшемуся взлому репозитория программного обеспечения с открытым исходным кодом Hugging Face в прошлом месяце. В отчете OpenAI впервые обнародовала ряд деталей этих событий.
По меньшей мере один исследователь безопасности искусственного интеллекта выразил обеспокоенность тем, что приведенные сведения могут свидетельствовать о более глубоких проблемах с технологиями OpenAI и, возможно, за ее пределами.
