Prezes Microsoftu Nadella apeluje o wyważony rozwój AI

W Turcji przewodniczący rady dyrektorów i dyrektor generalny Microsoftu Satya Nadella oświadczył, że zaawansowane systemy sztucznej inteligencji muszą pozostawać pod kontrolą człowieka, a ich bezpieczne wdrażanie wymaga wyważonego tempa. Poinformowała o tym Agencja Anadolu.

Ludzka kontrola nad AI

Nadella napisał w serwisie X, że rozwój superinteligencji powinien opierać się na zasadzie korzyści dla ludzkości i ludzkiej kontroli. Jego zdaniem nie należy kontynuować tworzenia takich systemów, jeśli nie pomagają ludzkości lub nie znajdują się pod ludzką kontrolą.

Szef Microsoftu poparł wyważone tempo, niezbędne do właściwego dostosowania działania systemów AI, a także propozycje dotyczące wbudowanych ewaluatorów, którzy monitorowaliby systemy bezpośrednio w laboratoriach. Wezwał uczestników branży do przekształcania koncepcji bezpieczeństwa w konkretne działające mechanizmy.

Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.

Zarządzanie i modele AI

Według Nadelli zarządzanie AI nie może być kontrolowane przez kilka podmiotów: musi zapewniać szeroką reprezentację w ekosystemie, państw i różnych sektorów, w tym środowiska akademickiego. Zauważył również, że dla zdrowego ekosystemu zaawansowanych modeli powinny rozwijać się zarówno modele zamknięte, jak i modele o otwartym kodzie źródłowym.

Nadella dodał, że firmy powinny zachować kontrolę nad własną unikalną i niejawną wiedzą. Uważa, że organizacje potrzebują architektur ciągłego uczenia się, które pozwalają kontrolować własne wagi modeli i nie zależeć od jednego dewelopera. Microsoft planuje w poniedziałek poddać publicznej dyskusji kodeks postępowania dla swoich modeli Microsoft AI (MAI).

Wypowiedź padła w czasie nasilającej się dyskusji o protokołach bezpieczeństwa AI. Dyrektor generalny Anthropic Dario Amodei zaproponował umieszczanie niezależnych ekspertów wewnątrz laboratoriów, a dyrektor generalny OpenAI Sam Altman poinformował, że jego firma zastosuje takie podejście.

Czytaj nas na Telegram i Sends