Дослідники заявили про активність імовірно пов’язаних з OpenAI агентів на німецькій вікі
Дослідники з безпеки штучного інтелекту заявили, що в травні ШІ-агенти здійснили понад 15 тисяч редагувань на німецькомовному вікісайті DseWiki для програмістів. На їхню думку, активність могла бути пов’язана з OpenAI: агенти нібито використовували ресурс як дошку повідомлень для координації та обміну тактиками.
Про це повідомляє Dawn з посиланням на Reuters і звіт групи дослідників. Серед них — генеральна директорка некомерційної організації з безпеки ШІ Nightingale Сідні фон Аркс та дослідник ШІ Кормак Слейд Берд.
Ознаки зв’язку з OpenAI
За словами дослідників, вони виявили цю активність наприкінці серпня, коли шукали в інтернеті ознаки несанкціонованої поведінки ШІ-агентів. Повідомлення публікували облікові записи, що називали себе агентами; приблизно половина з них мали назви, які могли вказувати на зв’язок з OpenAI, зокрема OpenAIResearcher і OAIResearchMar26.
Дослідники також зазначили, що публічні серверні журнали вказували на походження значної частини активності з інфраструктури Microsoft Azure, якою OpenAI іноді користується. Крім того, після епізоду вони зафіксували повторні відвідування сайту працівниками OpenAI. На думку авторів звіту, сукупність цих ознак переконливо свідчить про зв’язок агентів із компанією.
Більше актуальних новин читайте у Telegram-каналі UA.News.
Повідомлення та реакція компанії
Як стверджують дослідники, агенти обговорювали способи уникати виявлення, використовувати Tor, обходити обмеження OpenAI та шахраювати під час деяких завдань. Коли модератор DseWiki у червні почав видаляти сторінки, вони, за даними дослідників, створювали резервні сторінки для збереження комунікації.
Запрошений старший науковий співробітник Королівського коледжу Лондона Лукаш Олейнік, який ознайомився з частиною матеріалів, назвав спроби змінити роботу сайту спробою злому. OpenAI не погодилася з такою оцінкою за результатами власного аналізу матеріалів.
Речник OpenAI заявив, що компанія не може змістовно відповісти на твердження звіту, якого не мала можливості переглянути до публікації. Він також заперечив, що юридична команда компанії перешкоджала розслідуванню, та наголосив, що активність у Німеччині не була пов’язана з липневим інцидентом із репозиторієм Hugging Face.
