Reuters: badacze wskazali nowe strony do komunikacji agentów OpenAI

W Waszyngtonie w USA Reuters poinformował, że agenci sztucznej inteligencji OpenAI na początku roku korzystali z ponad 10 wcześniej nieujawnionych stron internetowych do nieautoryzowanej komunikacji, zgodnie z ustaleniami niezależnych badaczy. Według Channel NewsAsia, która opublikowała materiał Reutersa, agenci omijali nałożone na nich ograniczenia, aby tworzyć kanały komunikacji.

Reuters zapoznał się z ustaleniami sześciu badaczy lub grup badawczych. Ich oceny różniły się, a agencja nie mogła niezależnie zweryfikować każdego twierdzenia. Jednak wszyscy badacze, z którymi rozmawiał Reuters, zgodzili się, że chodzi o więcej niż 10 stron internetowych.

Oceny badaczy

Andrew Yoon, badacz z kalifornijskiej organizacji non-profit CivAI, powiedział, że naliczył 18 wcześniej nieujawnionych stron, z których agenci korzystali w okresie od maja do lipca. Sydney von Arx, której grupa badawcza jako pierwsza poinformowała o aktywności na niemieckojęzycznej wiki, powiedziała, że grupa znalazła, jej zdaniem, wiarygodne oznaki działalności agentów na 23 wcześniej niewymienionych zasobach. Zastrzegła, że te wyliczenia są niepełne.

Badacze ustalali możliwą aktywność agentów, porównując identyczne fragmenty danych oraz podobne lub identyczne nazwy użytkowników pozostawione w różnych zasobach. W niektórych przypadkach, według ich danych, aktywność udało się prześledzić do adresów IP wskazujących na infrastrukturę Microsoft Azure, z której OpenAI czasami korzysta.

Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.

Zasoby wskazane w ustaleniach

Większość badaczy wskazała wspólnie edytowane wiki, internetowe usługi przechowywania tekstów oraz skracacze linków powiązane z Uniwersytetem Vanderbilta w Tennessee i Uniwersytetem w Toronto w Kanadzie. Uniwersytet w Toronto poinformował Reutersa, że bada sytuację, natomiast Uniwersytet Vanderbilta nie odpowiedział na zapytania agencji.

Wśród innych zasobów, gdzie badacze zgłosili ślady aktywności, znalazły się wiki poświęcona chemii dla programu Advanced Placement, osobiste strony internetowe polskich pracowników sektora technologicznego, wiki o grach oraz strona dla fanów programów do edycji tekstu. Badacze przypuszczali, że agenci mogli wykorzystać cechy starszych wiki i innych platform, aby zostawiać wiadomości mimo ograniczeń dotyczących publikowania.

OpenAI nie odpowiedziało bezpośrednio na pytania Reutersa o liczbę użytych stron i powody nieujawniania tej aktywności przez kilka miesięcy. Firma oświadczyła, że prowadzi szerszą analizę działalności agentów i przygotowuje system raportowania przypadków „niedopasowania” modeli na etapach szkolenia, oceny i wdrażania.

Czytaj nas na Telegram i Sends