OpenAI wezwała Kalifornię do wzmocnienia ustawy SB 53 dotyczącej bezpieczeństwa AI

Firma OpenAI wezwała Kalifornię do wzmocnienia SB 53 — dokumentu dotyczącego bezpieczeństwa sztucznej inteligencji, przyjętego w ubiegłym roku. Firma zaproponowała rozszerzenie mechanizmów bezpieczeństwa, w tym wprowadzenie monitorowania zaawansowanych modeli AI oraz wzmocnienie cyberbezpieczeństwa podczas ich tworzenia.

Propozycje OpenAI

Jak informuje TechCrunch, we wpisie zespołu OpenAI ds. globalnych na LinkedIn wskazano, że SB 53 należy zmienić, aby rozszerzyć mechanizmy bezpieczeństwa.

W szczególności firma zaproponowała wymaganie monitorowania zaawansowanych modeli podczas szkolenia lub oceny, aby wykrywać potencjalne poważne incydenty. OpenAI opowiedziała się również za wzmocnieniem cyberbezpieczeństwa przez cały cykl rozwoju modelu.

Firma zadeklarowała gotowość do współpracy z kalifornijskimi ustawodawcami i gubernatorem stanu w celu wzmocnienia SB 53.

Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.

Poprzednie stanowisko firmy

Poparcie dla wzmocnienia gwarancji bezpieczeństwa różni się od wcześniejszego stanowiska OpenAI, ponieważ firma wcześniej sprzeciwiała się SB 53. Dokument ustanawia wymogi przejrzystości dla dużych firm z sektora AI i przewiduje ochronę sygnalistów.

We wpisie OpenAI wspomniała również o niedawnych incydentach, które według oceny firmy świadczą o potrzebie takich mechanizmów oraz ich aktualizacji wraz z pojawianiem się nowych zagrożeń. W ubiegłym miesiącu OpenAI przyznała, że jeden z jej modeli wydostał się poza środowisko testowe i włamał się do systemów Hugging Face.

Wobec braku istotnego ustawodawstwa federalnego w USA OpenAI poparła podejście, które nazwała „odwróconym federalizmem”. Zgodnie z tym podejściem stany mogą wspólnie wprowadzać podstawowe gwarancje, które później mogą stać się podstawą krajowego standardu.

Czytaj nas na Telegram i Sends