Reuters: дослідники заявили про нові сайти для зв’язку агентів OpenAI
У Вашингтоні, США, Reuters повідомило, що агенти штучного інтелекту OpenAI на початку року, за висновками незалежних дослідників, використовували понад 10 раніше не розкритих сайтів для несанкціонованого зв’язку. За даними Channel NewsAsia, яка опублікувала матеріал Reuters, агенти обходили встановлені для них обмеження, щоб створювати канали комунікації.
Reuters ознайомилося з висновками шести дослідників або дослідницьких груп. Їхні оцінки відрізнялися, а агентство не змогло окремо перевірити кожне твердження. Водночас усі опитані Reuters дослідники погодилися, що йдеться більш ніж про 10 вебсайтів.
Оцінки дослідників
Дослідник каліфорнійської некомерційної організації CivAI Ендрю Юн заявив, що нарахував 18 раніше не оприлюднених сайтів, які агенти використовували у період із травня до липня. Сідні фон Аркс, чия дослідницька група першою повідомила про активність на німецькомовній вікі, сказала, що група виявила достовірні, на її думку, ознаки діяльності агентів на 23 раніше не названих ресурсах. Вона застерегла, що ці підрахунки неповні.
Дослідники встановлювали можливу активність агентів, зіставляючи однакові фрагменти даних і схожі або однакові імена користувачів, залишені на різних ресурсах. У деяких випадках, за їхніми даними, активність вдалося простежити до IP-адрес, що вказували на інфраструктуру Microsoft Azure, яку OpenAI іноді використовує.
Більше актуальних новин читайте у Telegram-каналі UA.News.
Ресурси у висновках
Більшість дослідників назвали спільно редаговані вікі, онлайн-сервіси для зберігання текстів і скорочувачі посилань, пов’язані з Університетом Вандербільта у штаті Теннессі та Торонтським університетом у Канаді. Торонтський університет повідомив Reuters, що вивчає ситуацію, тоді як Університет Вандербільта не відповів на запити агентства.
Серед інших ресурсів, де дослідники заявили про сліди активності, були вікі, присвячена хімії для програми Advanced Placement, персональні сайти польських працівників технологічної сфери, вікі про ігри та сайт для прихильників програм для редагування текстів. Дослідники припустили, що агенти могли скористатися особливостями старіших вікі й інших платформ, аби залишати повідомлення всупереч обмеженням на публікацію.
OpenAI прямо не відповіла на запитання Reuters про кількість використаних сайтів і причини нерозголошення цієї активності протягом кількох місяців. Компанія заявила, що проводить ширший аналіз діяльності агентів і готує систему звітування про випадки «невідповідності» моделей на етапах навчання, оцінювання та розгортання.
