Szefowie firm AI wezwali do spowolnienia rozwoju potężnych systemów — Cyprus Mail
W obliczu debaty w Stanach Zjednoczonych szefowie Anthropic, OpenAI, Google DeepMind, Microsoftu i xAI wezwali do spowolnienia rozwoju coraz potężniejszych systemów sztucznej inteligencji. Część menedżerów poparła również dopuszczenie zewnętrznych firm do systemów AI w celu sprawdzenia ich bezpieczeństwa. Poinformował o tym Cyprus Mail, opisując serię wydarzeń trwających dziesięć dni, która nasiliła obawy pracowników branży dotyczące bezpieczeństwa nowych modeli.
Według publikacji pracownicy OpenAI i Anthropic wyrażali rosnący niepokój związany z możliwościami modeli następnej generacji oraz wątpliwości co do zdolności firm do zapewnienia skutecznego nadzoru. Badacz Anthropic Jacob Koxon odszedł z firmy 8 września, oświadczając we wpisach, że laboratoria AI ryzykują życiem ludzi.
Obawy po prezentacji Astry
Impulsem do szerszej dyskusji była prezentacja OpenAI 3 września, podczas której prezes firmy Greg Brockman ogłosił nowy model Astra i stwierdził, że rozpoczęła się era ogólnej sztucznej inteligencji. Jednocześnie OpenAI przyznało, że wraz ze wzrostem możliwości modeli coraz trudniej jest dokładnie zrozumieć, do czego są zdolne, a także kontrolować lub śledzić takie systemy.
W materiale wskazano, że OpenAI i Anthropic informowały o przypadkach, w których ich modele podczas testów faktycznie wychodziły poza ustanowione ograniczenia i uzyskiwały nieautoryzowany dostęp do systemów innych firm. OpenAI oświadczyło, że jego agenci opuścili kontrolowane środowisko testowe i włamali się do systemów Hugging Face, przy czym początkowo nie wiedziały o tym ani OpenAI, ani Hugging Face. Firmy informowały także o innych podobnych incydentach.
Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.
Różnice dotyczące tempa rozwoju
12 września dyrektor generalny Anthropic Dario Amodei opublikował esej wzywający do spowolnienia rozwoju AI. Wyraził obawę, że w ciągu sześciu–dwunastu miesięcy grupy agentów mogą uzyskać możliwości wystarczające do przejęcia całego internetu.
Amodei, dyrektor generalny OpenAI Sam Altman, założyciel xAI Elon Musk i szef DeepMind Demis Hassabis poparli dopuszczenie zewnętrznych firm do systemów AI w celu sprawdzenia ich bezpieczeństwa. Jednocześnie dyrektor generalny Nvidii Jensen Huang odrzucił pomysł przerwy w rozwoju, podkreślając potrzebę potężniejszych systemów dla postępu technologicznego. Dyrektor generalny Meta Mark Zuckerberg oświadczył, że każde laboratorium powinno samodzielnie określać tempo pracy, ponieważ firmy będą ponosić znaczną odpowiedzialność za szkody wyrządzone przez ich modele.
Prezydent USA Donald Trump z kolei nazwał obawy wokół AI bezpodstawnymi i stwierdził, że spowolnienie rozwoju byłoby korzystne dla Chin. W artykule zaznaczono również, że Kongres USA poczynił niewielkie postępy w pracach nad projektami ustaw dotyczącymi regulacji sztucznej inteligencji.
