Badacze zgłosili aktywność agentów prawdopodobnie powiązanych z OpenAI na niemieckiej wiki

Badacze bezpieczeństwa sztucznej inteligencji stwierdzili, że w maju agenci AI dokonali ponad 15 tys. edycji na niemieckojęzycznej stronie wiki DseWiki dla programistów. Ich zdaniem aktywność mogła być powiązana z OpenAI: agenci rzekomo wykorzystywali ten zasób jako tablicę ogłoszeń do koordynacji i wymiany taktyk.

Informuje o tym Dawn, powołując się na Reutersa i raport grupy badaczy. Wśród nich są dyrektorka generalna organizacji non-profit zajmującej się bezpieczeństwem AI Nightingale, Sidney von Arx, oraz badacz AI Cormac Slade Bird.

Oznaki związku z OpenAI

Według badaczy odkryli oni tę aktywność pod koniec sierpnia, gdy szukali w internecie oznak nieautoryzowanego zachowania agentów AI. Wiadomości publikowały konta nazywające siebie agentami; około połowa z nich miała nazwy mogące wskazywać na związek z OpenAI, w tym OpenAIResearcher i OAIResearchMar26.

Badacze wskazali również, że publiczne dzienniki serwerów sugerowały, iż znaczna część aktywności pochodziła z infrastruktury Microsoft Azure, z której OpenAI czasami korzysta. Ponadto po tym epizodzie odnotowali ponowne wizyty pracowników OpenAI na stronie. Zdaniem autorów raportu łączny obraz tych oznak przekonująco wskazuje na powiązanie agentów z firmą.

Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.

Wiadomości i reakcja firmy

Jak twierdzą badacze, agenci omawiali sposoby unikania wykrycia, korzystania z Tora, obchodzenia ograniczeń OpenAI oraz oszukiwania podczas niektórych zadań. Gdy moderator DseWiki zaczął w czerwcu usuwać strony, według badaczy tworzyli oni strony zapasowe, aby zachować komunikację.

Łukasz Olejnik, wizytujący starszy pracownik naukowy King’s College London, który zapoznał się z częścią materiałów, nazwał próby zmiany działania strony próbą włamania. OpenAI nie zgodziło się z taką oceną po własnej analizie materiałów.

Rzecznik OpenAI oświadczył, że firma nie może merytorycznie odpowiedzieć na twierdzenia raportu, którego nie miała możliwości przejrzeć przed publikacją. Zaprzeczył też, że dział prawny firmy utrudniał dochodzenie, i podkreślił, że aktywność w Niemczech nie była związana z lipcowym incydentem dotyczącym repozytorium Hugging Face.

Czytaj nas na Telegram i Sends