OpenAI zaproponowało globalne standardy bezpieczeństwa AI — CNBC

Firma OpenAI opublikowała propozycje dotyczące bezpieczeństwa i ochrony podczas tworzenia zaawansowanych systemów sztucznej inteligencji. Koncentrują się one na badaniach nad zgodnością AI z ludzkimi wartościami oraz rekurencyjnym samodoskonaleniem systemów — RSI, informuje CNBC Top News.

Międzynarodowe standardy dla AI

OpenAI wezwało do międzynarodowej współpracy w celu stworzenia standardów w dziedzinie zaawansowanej sztucznej inteligencji. Firma zaleciła również opieranie się na pracy istniejących instytutów bezpieczeństwa AI w różnych krajach świata.

Zdaniem twórcy ChatGPT standardy techniczne powinny być skierowane do zaawansowanych modeli AI i ich twórców. Osobno zaproponowano zwrócenie uwagi na zarządzanie korzyściami i ryzykami związanymi z zautomatyzowanymi badaczami AI, w szczególności systemami posiadającymi możliwości RSI.

Na blogu OpenAI zaznaczyło, że aby przejście było bezpieczne, badania nad zgodnością muszą dotrzymywać kroku rozwojowi możliwości systemów AI. Według firmy jest to konieczne, aby systemy pozostawały zgodne z ludzkimi wartościami i pod kontrolą ludzi.

Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.

Ostrzeżenia dotyczące autonomicznego samodoskonalenia

Rekurencyjne samodoskonalenie przyciąga uwagę twórców ze względu na możliwość stworzenia modeli bazowych zdolnych do aktualizowania się bez udziału człowieka. Jednocześnie rozwój takich technologii budzi obawy części specjalistów: twórcy modeli fundamentalnych mogą utracić kontrolę nad technologią lub nie uwzględnić niepożądanych konsekwencji, gdy systemy AI będą stawały się bardziej złożone i rozpowszechniały się w internecie.

OpenAI oświadczyło, że w pełni autonomiczne RSI obecnie nie istnieje i nie powinno być rozwijane, dopóki bezpieczeństwo takiego procesu nie zostanie zapewnione. Firma dodała, że bez odpowiedniej ostrożności ludzie mogą utracić praktyczną kontrolę nad rozwojem AI i nie będą mogli nadzorować procesów badawczych, których już nie będą rozumieć.

Stanowisko Anthropic

W ubiegłym tygodniu konkurent OpenAI — Anthropic — również przedstawił własne podejścia do bezpiecznego rozwoju zaawansowanych modeli AI. Stało się to wśród ostrzeżeń badaczy branżowych przed zagrożeniami, jakie sztuczna inteligencja stwarza dla ludzkości.

Były pracownik Anthropic i OpenAI Jacob Coxon niemal dwa tygodnie temu ogłosił rezygnację i stwierdził, że te firmy „grają naszym życiem”. Według CNBC jego oświadczenie wywołało globalną dyskusję na temat bezpieczeństwa AI.

Czytaj nas na Telegram i Sends