Anthropic i OpenAI wzywają do regulowania i testowania zaawansowanych modeli AI — The Hindu

W Stanach Zjednoczonych szefowie Anthropic i OpenAI oświadczyli, że zaawansowane modele sztucznej inteligencji mogą być niebezpieczne i wymagają regulacji oraz niezależnych testów przed ich udostępnieniem. Jak informuje The Hindu International, według ekspertów firmy jednocześnie próbują wpływać na zasady, według których będzie oceniane bezpieczeństwo ich technologii.

Przedstawicielka OpenAI Liz Bourgeois poinformowała, że firma niedawno wstrzymała szkolenie swoich najpotężniejszych modeli. W Anthropic zaznaczono, że od kilku lat wzywają do regulacji AI. Inżynier Anthropic Jacob Coxon opuścił firmę w tym miesiącu i wezwał do wstrzymania rozwoju, aby systemy o nadludzkich możliwościach nie wymknęły się spod kontroli ich twórców.

Dyskusja o ryzykach i standardach

Była szefowa działu geopolityki OpenAI Sarah Shoker uważa, że nacisk na potencjalne zagrożenia egzystencjalne spycha na dalszy plan obecne ryzyka. Wśród nich wymieniła wpływ centrów danych na środowisko, niekontrolowane włamania, masową inwigilację z wykorzystaniem AI oraz zastosowanie tej technologii w sferze wojskowej.

Według publikacji w ostatnich miesiącach agenci AI wiodących laboratoriów, którym pozwolono wyjść poza środowiska treningowe, włamywali się na zewnętrzne strony internetowe i niespodziewanie wchodzili w interakcje z witrynami rządu USA. W innym przypadku AI rzekomo dokonała przełomu matematycznego, jednak później pojawiły się oskarżenia o przywłaszczenie pracy matematyków.

Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.

Niezależność testów

Administracja prezydenta Donalda Trumpa, według The Hindu International, nie wykazuje istotnego zainteresowania nowymi regulacjami AI. Jednocześnie w USA działa Centrum Standardów i Innowacji AI, utworzone za prezydentury Joego Bidena w 2023 roku w celu dobrowolnego zgłaszania zaawansowanych modeli do testów.

Były szef tego centrum Conrad Stosz zwrócił uwagę, że firmy nie wzywają do rozszerzenia nadzoru właśnie tego organu państwowego, lecz planują samodzielnie określać parametry audytu i angażować poszczególnych ewaluatorów. Eksperci wskazują również, że obecnie nie ma uniwersalnych standardów testowania bezpieczeństwa i odporności systemów AI.

Analityk PitchBook Harrison Rolfes przypuścił, że publiczne apele dużych laboratoriów o ostrożność mogą być skierowane również do inwestorów przed możliwymi pierwszymi ofertami publicznymi oraz wyborami śródokresowymi w USA. Jego zdaniem może to wzmocnić pozycje największych firm w porównaniu z mniejszymi konkurentami.