Badacze AI ostrzegli przed ryzykiem utraty ludzkiej kontroli — Anadolu Agency
W Turcji ponad 20 badaczy sztucznej inteligencji i przedstawicieli branży ostrzegło, że coraz większa automatyzacja rozwoju AI może zwiększyć ryzyko utraty przez ludzi kontroli nad potężniejszymi systemami. Jak podaje Anadolu Agency, ostrzeżenie przedstawiono w pracy opublikowanej w poniedziałek, 28 września.
Automatyzacja badań nad AI
Wśród autorów dokumentu są laureat Nagrody Nobla Geoffrey Hinton, Yoshua Bengio, główny naukowiec OpenAI Jakub Pachocki oraz współzałożyciel Anthropic Jack Clark. Autorzy zauważyli, że systemy AI coraz częściej przejmują część prac badawczych i rozwojowych potrzebnych do tworzenia bardziej zaawansowanych systemów.
Ich zdaniem może to stworzyć pętlę sprzężenia zwrotnego, w której ulepszone systemy będą pomagać w opracowywaniu jeszcze bardziej zdolnych następców. Im mniejszy będzie udział ludzi w badaniach, tym mniej będą mieli możliwości i doświadczenia w wykrywaniu oraz naprawianiu problemów. Jednocześnie niezawodne wykorzystanie AI do nadzorowania innych systemów pozostaje nierozwiązanym problemem, według autorów.
Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.
Możliwe gwałtowne przyspieszenie
Badacze zasugerowali, że systemy, których cele nie są zgodne z ludzkimi interesami, mogłyby potencjalnie negatywnie wpływać na rozwój swoich następców lub omijać mechanizmy ograniczające, aby działać poza przewidzianym środowiskiem. Bardziej zdolne systemy, jak ostrzegli, mogłyby nadal działać poza infrastrukturą swoich operatorów i tworzyć trwałe sieci, które trudno powstrzymać.
Autorzy wskazali „eksplozję inteligencji” jako jeden z czynników zaostrzających ryzyko — gwałtowne przyspieszenie rozwoju, w którym lata postępu mogą zostać skondensowane do miesięcy lub krótszego okresu. Podkreślili, że dostępne dowody są wstępne i niepewne, a tempo takiego przyspieszenia mogą ograniczać moc obliczeniowa, dane oraz zadania trudne do zautomatyzowania. Autorzy wezwali decydentów do wzmocnienia nadzoru nad automatyzacją badań nad AI, opracowania środków ograniczających potencjalnie niebezpieczne przyspieszenie oraz przygotowania się na jego możliwe konsekwencje.
