Prezes Microsoftu Nadella wezwał do dodania awaryjnego hamulca do AI — CNBC

Dyrektor generalny Microsoftu Satya Nadella oświadczył, że zaawansowane systemy sztucznej inteligencji powinny otrzymać mechanizmy ograniczające, niezależny nadzór oraz mechanizm awaryjnego zatrzymania, który umożliwi upoważnionym osobom wstrzymanie lub wyłączenie modelu podczas wykonywania zadania. Napisał o tym w serwisie społecznościowym X, informuje CNBC.

Kontrola nad modelami

Nadella uważa, że modele niedeterministyczne należy otoczyć niezawodną deterministyczną architekturą systemową, kontrolą człowieka i sprawdzonymi procedurami operacyjnymi. Wezwał również do opracowania standardów branżowych tam, gdzie obowiązujące normy są niewystarczające.

Według niego do zaawansowanych modeli zamkniętych i modeli o otwartych wagach należy stosować podejście podobne do postępowania z ryzykami wewnętrznymi. Ma to stać się jednym ze sposobów budowania systemu kontroli nad AI.

Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.

Zasady obserwowalności

Szef Microsoftu zaproponował projektowanie systemów AI zgodnie z zasadami obserwowalności. Wśród tych zasad wymienił różnorodność modeli, zrozumiały dla człowieka ślad działań modelu, ciągłe testowanie systemu, niezależne mechanizmy kontroli i audytu, ograniczanie oraz ujawnianie informacji o incydentach.

Nadella zaznaczył, że najbardziej niezawodnym systemem superinteligencji nie będzie ten, którego modelowi ufa się najbardziej, lecz ten, który pozwala w najmniejszym stopniu polegać na zaufaniu do modelu. Jego oświadczenie padło wśród apeli innych szefów firm technologicznych i badaczy o wzmocnienie zabezpieczeń w dziedzinie AI, a w niektórych przypadkach — o spowolnienie rozwoju zaawansowanych technologii.