Matematyk Andreas Thom prosi OpenAI o udowodnienie, że nie wykorzystała jego pracy — The Verge

Matematyk Andreas Thom oświadczył, że OpenAI powinna przedstawić dowody, iż nie wykorzystywała niepublicznych prac matematycznych użytkowników do ulepszania swoich modeli. Swoje obawy powiązał z niedawnymi ogłoszeniami firmy dotyczącymi wyników matematycznych, z których jeden dotyczy jego specjalizacji — grup niesoficznych.

Pytania dotyczące danych użytkowników

Jak informuje The Verge, Thom napisał w serii postów na Mastodonie, że on i jego koledzy komunikowali się z ChatGPT przed ogłoszeniem OpenAI. Jeden z 10 wyników, o których firma poinformowała w ubiegłym miesiącu, dotyczył grup niesoficznych. OpenAI przyznała, że wynik ten w znacznym stopniu opierał się na wcześniejszych pracach Thoma i jego kolegi Gábora Kuna.

Według Thoma po ogłoszeniu zwrócił on uwagę na szczegółową znajomość przez OpenAI metod, które nie były ani najbardziej oczywistą, ani najbardziej obiecującą drogą do rozwiązania problemu. Napisał do badaczy OpenAI, Sébastiena Bubecka i Marka Sellkego, pytając, czy jego rozmowy z chatbotem mogły stanowić część danych treningowych lub być dostępne podczas procesu rozumowania modelu.

Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.

Żądanie większej przejrzystości

Thom oświadczył, że otrzymana odpowiedź dotyczyła wyłącznie bezpośredniego dostępu do czatów, lecz nie wyjaśniała, czy treść rozmów trafiła do zbiorów danych, których firma używa do ulepszania modeli. Jego zdaniem jedynie OpenAI posiada informacje pozwalające ustalić, czy wykorzystano konkretne materiały użytkowników. Matematyk uważa, że firma powinna ujawnić niezbędne zbiory danych i wyjaśnić warunki ich użycia, jeśli zaprzecza wykorzystywaniu niepublicznych badań.

OpenAI wcześniej oświadczyła, że jej badacze i agenci nie widzieli prac innych matematyków przed ich publicznym ujawnieniem, w tym nie uzyskali dostępu do konkretnych danych użytkowników w celu rozwiązania problemu Naviera–Stokesa. Jednocześnie firma zaznaczyła, że nie może całkowicie wykluczyć, iż zanonimizowane dane uzyskane w wyniku korzystania z jej produktów mogły pomóc ulepszyć modele.

Thom podkreślił, że anonimizacja może usunąć nazwisko, ale nie intelektualną treść idei matematycznej. Uznał za etycznie niedopuszczalną sytuację, w której niepubliczne badania użytkowników mogłyby pomagać ulepszać modele, które następnie konkurują z tymi samymi badaczami o pierwszeństwo publikacji bez ich zgody, ujawnienia informacji czy należytego uznania. OpenAI nie udzieliła The Verge szybkiego komentarza.

Czytaj nas na Telegram i Sends