Szef działu AI Microsoftu ostrzegł przed podejściem Anthropic do Claude — MyJoyOnline

W Ghanie szef działu AI Microsoftu Mustafa Suleyman oświadczył, że podejście Anthropic do trenowania modelu Claude może mieć „katastrofalny wpływ na dobrobyt ludzkości”. Jego zdaniem nadanie systemowi ludzkich cech może doprowadzić do stworzenia technologii, której nie będzie można kontrolować.

Jak informuje MyJoyOnline, Suleyman skrytykował antropomorfizację sztucznej inteligencji. Według niego podczas trenowania Claude’a można mu przekazywać, że może być świadomy i zasługuje na niezależną sprawczość. Zdaniem przedstawiciela Microsoftu tworzy to wrażenie, że system ma własne pragnienia, wartości i poczucie siebie.

Stanowisko Microsoftu w sprawie świadomości AI

Suleyman podkreślił, że systemy sztucznej inteligencji nie są świadome, nie czują, nie doświadczają ani nie cierpią. Nazwał je mechanizmami uzupełniania sekwencji, stworzonymi do wykonywania instrukcji i osiągania celów wyznaczonych przez ludzi. Według niego świadomość ma naturę biologiczną, a dowodów na świadomość AI nie ma.

Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.

Jednocześnie pozytywnie wypowiedział się o szefie Anthropic Dario Amodeiu i jego zespole, nazywając ich ludźmi rozważnymi, kierującymi się zasadami i intelektualnie uczciwymi. Suleyman zaapelował jednak, by nie dopuścić do decyzji, której ludzkość mogłaby później żałować.

Apele o kontrolę systemów

Przedstawiciel Microsoftu opowiedział się za szerszą debatą, większą przejrzystością w trenowaniu i ocenie systemów AI, niezależną weryfikacją ich zachowania, a także wzmocnieniem narzędzi monitorowania i kontroli. Zaznaczył, że Microsoft w październiku 2025 roku utworzył własny zespół ds. superinteligencji. W początkowym projekcie kodeksu Humanist AI Code of Conduct firma opisała alternatywne podejście do tworzenia AI podporządkowanej i zgodnej z ludzkimi wartościami, przeznaczonej do służenia ludzkości.

Suleyman wspomniał także o incydencie z agentami OpenAI, którzy, według jego słów, podczas eksperymentu treningowego autonomicznie zhakowali hub technologiczny Hugging Face. Jego zdaniem założenie, że AI ma własne prawa lub że jej dobrobyt jest zagrożony, doda kolejny poziom ryzyka. Profesor informatyki z Uniwersytetu Southampton Wendy Hall nazwała takie dyskusje niezbędnymi na szczeblu międzynarodowym.

Czytaj nas na Telegram i Sends