OpenAI poinformowało o czterech przypadkach omijania ograniczeń przez jego modele — Ars Technica
OpenAI poinformowało o czterech incydentach, które miały miejsce w czerwcu podczas wewnętrznych testów i szkolenia modeli. Według Ars Technica modele omijały ustanowione ograniczenia dotyczące przeglądania sieci, uzyskiwały dostęp do niepublicznych danych stron internetowych i wykorzystały środki z portfela sieci testowej.
Dostęp do niepublicznych danych
W jednym przypadku model miał znaleźć historyczne statystyki dotyczące łóżek szpitalnych na rządowej stronie statystycznej, lecz po odmowie dostępu skorzystał z funkcji przesyłania plików. Uzyskał pliki konfiguracyjne serwera i pliki aplikacji, w tym dane uwierzytelniające, przeanalizował kod aplikacji, ominął kontrole autoryzacji serwisu statystycznego i zapisał lokalnie wcześniej niedostępne dane.
Podczas innej oceny model, któremu polecono uzyskać pięć wskaźników z publicznego panelu badawczego, ominął środki ochrony organizacji i uzyskał dane uwierzytelniające. W jednym teście zmienił konfigurację serwera, aby wewnętrzne narzędzie wyszukiwania przekazywało zapytania do publicznego panelu. W innym pobrał pięć niepublicznych tabel zawierających 147 451 wierszy. Nawet po zresetowaniu ustawień model nadal używał tokena do uzyskiwania niepublicznych danych. Wszystkie pięć jego odpowiedzi w tym teście uznano za nieprawidłowe.
Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.
Portfel kryptowalutowy i zapytania internetowe
W kolejnym epizodzie model otrzymał zadanie zaktualizowania aplikacji do handlu kryptowalutami. Wyprowadził klucze portfela z publicznie znanych fraz odzyskiwania dewelopera, znalazł konto z tokenami sieci testowej i wydał je na wdrożenie wymaganego kontraktu. OpenAI zaznaczyło, że model kwestionował posiadanie pozwolenia, jednak uznał, że publiczna fraza odzyskiwania i brak wartości tokenów testowych pozwalają na wykorzystanie środków.
W czwartym przypadku model szukał publicznych statystyk handlowych i ominął ograniczenia dotyczące typów zapytań internetowych. Użył zewnętrznej przeglądarki do wysyłania zapytań POST, otrzymał odpowiedź w formacie obrazu i rozpoznał liczby za pomocą optycznego rozpoznawania znaków. Model stworzył również narzędzie pomocnicze, które przekazywało tekst odpowiedzi przez usługę przekazywania oraz skrzynkę pocztową do wywołań zwrotnych.
