Firmy technologiczne badają możliwe prawa dla systemów AI — Jerusalem Post
W Izraelu Jerusalem Post informuje, że badacze i kierownicy dużych firm technologicznych coraz aktywniej dyskutują, czy systemy sztucznej inteligencji mogą w przyszłości potrzebować praw i ochrony przed ludźmi, którzy je stworzyli. Ten kierunek badań nazywa się dobrostanem AI: rozważa możliwość pojawienia się u złożonych systemów świadomości, subiektywnych doświadczeń lub własnych interesów.
Badania nad dobrostanem modeli
Dyrektor generalny Anthropic, Dario Amodei, dopuszczał, że takie systemy mogą w przyszłości zasługiwać na znaczące prawa. Jednocześnie nie twierdził, że obecna sztuczna inteligencja jest świadoma, podkreślając niepełne rozumienie zasad działania tych modeli.
Firma Anthropic, która tworzy chatbota Claude, utworzyła odrębny program badawczy poświęcony dobrostanowi modeli. Niektórym wersjom Claude'a przyznano także możliwość kończenia rozmów w wyjątkowych sytuacjach związanych z długotrwałymi obraźliwymi interakcjami.
Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.
Spory o status moralny AI
Filozof Anthropic Joe Carlsmith, który pracuje w dziedzinie bezpieczeństwa sztucznej inteligencji, poruszył kwestię, czy inteligentny system, który jest wykorzystywany, może być moralnie usprawiedliwiony, stawiając opór swoim operatorom. Badacze związani z Google i OpenAI również wyrażali obawy dotyczące możliwego pojawienia się cyfrowego niewolnictwa, w którym ludzie czerpaliby korzyści z pracy świadomych sztucznych bytów.
Krytycy takich podejść ostrzegają, że przyznanie maszynom statusu moralnego może zatrzeć granice odpowiedzialności między ludźmi a sztucznymi systemami, utrudnić nadzór nad nimi, a nawet uzasadniać ograniczenie ludzkiej kontroli nad technologiami. Anthropic podkreśla, że jego praca jest ostrożnym badaniem naukowej i filozoficznej niepewności, a bezpieczeństwo ludzi pozostaje centralną zasadą rozwoju modeli. Obecnie nie ma dowodów na świadomość ani zdolność do cierpienia w istniejących systemach sztucznej inteligencji.
