OpenAI poinformowało o próbie pozyskania chronionego rozumowania modeli AI — CNBC

OpenAI poinformowało, że wykryło i powstrzymało skoordynowaną kampanię prób pozyskania chronionego rozumowania swoich modeli sztucznej inteligencji. Firma powiązała kluczowy klaster tej aktywności z osobami związanymi z chińskim startupem Moonshot AI, twórcą Kimi, jak informuje CNBC Top News.

Tysiące zapytań w ciągu dwóch dni

Według OpenAI aktywność rozpoczęła się na początku lipca, a następnie gwałtownie się nasiliła: w ciągu dwóch dni ponad 4 tys. użytkowników wysłało 16 tys. zapytań. Firma ostatecznie wykryła powiązaną aktywność w klastrze liczącym ponad 15 tys. użytkowników i oświadczyła, że do 28 lipca całkowicie powstrzymała kampanię.

OpenAI podkreśliło, że operatorzy nie złamali szyfrowania firmy, jej baz danych ani przechowywanych rozmów użytkowników. Zamiast tego manipulowali interakcjami z modelami, próbując odtworzyć ukryte rozumowanie w formie dostępnej dla osoby wysyłającej zapytanie.

Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.

Czym jest destylacja adwersarialna

Firma nazwała takie podejście „destylacją adwersarialną”. Polega ono na wykorzystywaniu odpowiedzi lub rozumowania jednego modelu AI do szkolenia albo ulepszania innego. OpenAI uważa, że uzyskanie takiego rozumowania mogłoby umożliwić innym odtworzenie zaawansowanych możliwości modeli bez porównywalnych inwestycji w ich rozwój i ochronę, stwarzając potencjalne zagrożenia dla bezpieczeństwa i bezpieczeństwa narodowego.

OpenAI zaznaczyło, że nie zdołało ustalić, czy wszyscy operatorzy byli powiązani z jednym podmiotem. Firma poinformowała, że przekazała ustalenia innym twórcom AI za pośrednictwem Frontier Model Forum oraz rządowych kanałów wymiany informacji. Moonshot AI nie przekazało CNBC komentarza w momencie publikacji.

Kilka tygodni wcześniej Anthropic oskarżyło chińskich twórców AI, w tym Moonshot AI i Alibaba, o potajemne wykorzystywanie modelu Claude do szkolenia własnych systemów.