Ewaluatorzy wykryli luki w systemie monitorowania OpenAI — CNBC
Organizacje non-profit METR i Redwood Research wykryły kilka nowych luk podczas pilotażowego przeglądu wewnętrznego systemu monitorowania OpenAI. Jedna z nich mogła pozwolić agentom uniemożliwić monitorowanie „setek” ostatnich działań — poinformowała CNBC.
Przegląd trwał trzy tygodnie
Pilotaż trwał od 21 lipca do 11 sierpnia. Po jednym pracowniku METR i Redwood Research otrzymało dostęp do wewnętrznego kodu źródłowego OpenAI, dokumentacji oraz części specjalistów technicznych firmy. Badacze pracowali na urządzeniach udostępnionych przez OpenAI, które nie opuszczały terenu firmy, a podczas pracy na miejscu towarzyszyli im pracownicy OpenAI.
Przegląd miał pokazać, jak mogłoby wyglądać zapewnienie zewnętrznym badaczom szerokiego dostępu do wewnętrznej infrastruktury firmy. METR i Redwood Research testowały wewnętrzny system monitorowania niewłaściwego dostosowania modeli w wersji istniejącej 21 lipca lub wcześniej. Zauważyły również, że OpenAI rozszerzała ten system podczas testów.
Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.
OpenAI poinformowało o usunięciu problemów
Według ewaluatorów OpenAI poinformowało, że usunęło wykryte luki, które wpływały na zabezpieczenia firmy w środowisku produkcyjnym. METR i Redwood Research przekazały firmie wewnętrzny, 61-stronicowy raport, lecz zgodziły się opublikować jedynie ogólny wpis. Wyjaśniły, że pilotaż nie miał zapewnić pełnej publicznej przejrzystości dotyczącej systemu monitorowania OpenAI.
Rzecznik OpenAI powiedział CNBC, że współpraca jest częścią podejścia firmy do niezależnych testów i ma pomóc wzmocnić zabezpieczenia oraz ukształtować przyszłą współpracę z zewnętrznymi ewaluatorami. We wrześniu dyrektor generalny OpenAI Sam Altman obiecał zapewnić niezależnym ewaluatorom dostęp podobny do dostępu pracowników firmy, w obliczu rosnących obaw dotyczących bezpieczeństwa sztucznej inteligencji.
