Pracownicy OpenAI przez lata ostrzegali przed lukami w bezpieczeństwie — NDTV
W USA pracownicy OpenAI jeszcze przed uruchomieniem ChatGPT pod koniec 2022 roku ostrzegali kierownictwo i radę dyrektorów o niedociągnięciach w bezpieczeństwie wewnętrznym — podaje NDTV, powołując się na pięciu poinformowanych rozmówców. Niektórzy pracownicy po takich zgłoszeniach uważali, że kierownictwo bardziej koncentrowało się na rywalizacji z Google i Anthropic niż na ochronie technologii.
Dostęp do wewnętrznych prac rozwojowych
Według źródeł pracownicy mający dostęp do kodu źródłowego OpenAI mogli oglądać szczegóły techniczne wielu projektów, w tym tych niezwiązanych z ich pracą. Większość kodu firma przechowywała w jednym dużym repozytorium — monorepozytorium. Pracownicy obawiali się, że w takich warunkach osoby trzecie, w tym zagraniczne rządy, mogłyby stosunkowo łatwo uzyskać poufne informacje.
OpenAI oświadczyła, że najbardziej wrażliwe prace rozwojowe są przechowywane w oddzielnych repozytoriach z rygorystyczną kontrolą dostępu. Firma zaznaczyła również, że monorepozytorium nie zawiera całego jej kodu ani krytycznie ważnych informacji o modelach, w tym parametrów wagowych.
Sprawa urządzenia nagrywającego
13 października Departament Sprawiedliwości USA poinformował o aresztowaniu 35-letniego obywatela Arabii Saudyjskiej Abdulrahmana Alfozana, który w tym czasie był inżynierem OpenAI. Postawiono mu zarzut zainstalowania ukrytego urządzenia do nagrywania dźwięku w sali posiedzeń kierownictwa; według dokumentu sądowego urządzenie ukryto w papierze toaletowym.
Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.
Zgodnie z materiałami sądowymi Alfozan używał również narzędzia AI przeznaczonego dla pracowników OpenAI, aby znaleźć wewnętrzną dokumentację dotyczącą podróży kierownictwa do Arabii Saudyjskiej oraz urzędników, którzy mogli uczestniczyć w spotkaniach z saudyjskimi ministrami. Jego prawnicy nie odpowiedzieli na prośbę o komentarz.
Wzmocnienie ochrony
Według dwóch rozmówców starszy dyrektor ds. rozwoju produktów Thibault Sottiaux stanął na czele wewnętrznej inicjatywy ochrony systemów OpenAI. W sierpniu, według jednego ze źródeł, przeniósł jedną czwartą inżynierów z pionu produkcyjnego do poprawy infrastruktury bezpieczeństwa.
OpenAI poinformowała, że obecnie regularnie sprawdza bezpieczeństwo narzędzi wewnętrznych. Firma oświadczyła, że wzmocniła ochronę przed atakami ze strony osób z wewnątrz, cyberprzestępców i struktur państwowych, a także przygotowuje kolejny wewnętrzny etap wzmacniania cyberbezpieczeństwa.
