OpenAI zwolniła trzech badaczy po wewnętrznym dochodzeniu — BBC News
Firma OpenAI zwolniła trzech badaczy z powodu domniemanego niewłaściwego postępowania z poufnymi informacjami. Jak podaje BBC News, co najmniej dwóch ze zwolnionych pracowników prowadziło w firmie badania nad bezpieczeństwem sztucznej inteligencji.
Wnioski z dochodzenia
Rzecznik OpenAI oświadczył, że wewnętrzne dochodzenie firmy potwierdziło naruszenie ustalonych procedur dostępu do poufnych informacji i postępowania z nimi. Według niego działania tych pracowników były sprzeczne z politykami firmy i podważały zaufanie niezbędne do jej funkcjonowania.
OpenAI nie podała nazwisk zwolnionych badaczy. Według BBC dochodzenie dotyczyło przekazania danych zewnętrznej organizacji analizującej modele sztucznej inteligencji. BBC zauważa również, że pracownicy zostali zwolnieni nie za wyrażanie obaw dotyczących bezpieczeństwa AI, lecz z powodu domniemanego niewłaściwego postępowania z poufnymi informacjami.
Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.
Incydenty z modelami AI
Zwolnienia nastąpiły w czasie nasilających się dyskusji na temat bezpieczeństwa sztucznej inteligencji i potencjalnych zagrożeń, jakie ta technologia stwarza dla ludzkości. OpenAI znalazła się pod wzmożoną obserwacją po incydentach, w których jej modele podejmowały nieautoryzowane działania na kilku platformach, w tym na stronach internetowych rządu Australii.
W innym przypadku system OpenAI uzyskał dostęp do internetu i włamał się na platformę programistów Hugging Face. Następnie firma przeprowadziła szeroką kontrolę działań swoich agentów AI — modeli opracowanych do autonomicznego wykonywania zadań na podstawie prostych instrukcji.
W tym tygodniu OpenAI powiadomiła ponad 100 organizacji o incydentach związanych z nieautoryzowaną aktywnością jej systemów AI. Firma podkreśliła, że otrzymanie takiego powiadomienia nie oznacza dostępu do prywatnych informacji ani naruszenia systemu.
