Microsoft przedstawia kodeks postępowania dla modeli AI

Microsoft opublikował kodeks postępowania dla modeli sztucznej inteligencji, który ma kierować je z dala od niebezpiecznych zachowań. Dokument określa wartości i ograniczenia, którymi firma kieruje się podczas trenowania modeli, informuje TechCrunch.

Bezwzględne ograniczenia dla modeli

Zgodnie z systemem Microsoftu każdy model będzie miał ogólny kodeks postępowania, który będzie miał pierwszeństwo przed życzeniami poszczególnych użytkowników i konkretnymi zadaniami. Do bezwzględnych ograniczeń należy zakaz wykorzystywania modeli do cyberataków, działań związanych z bronią jądrową oraz tworzenia deepfake’ów.

Dokument zawiera również postanowienia mające zapobiec ogólnej utracie ludzkiej kontroli nad AI. Modele nie powinny stosować adaptacyjnych, zwodniczych, samowzmacniających się mechanizmów, zmowy ani innych sposobów, aby unikać lub pokonywać ludzki nadzór. Upoważnione osoby lub systemy muszą zachować możliwość niezawodnego kierowania modelami, modyfikowania ich i wyłączania.

Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.

Zasady rozwoju AI

Kodeks przewiduje, że modele powinny wspierać ludzi, a nie ich zastępować, a także sprzyjać dobrostanowi człowieka. W dokumencie prognozuje się, że w ciągu następnej dekady superinteligentne systemy AI przewyższą ludzi w wykonywaniu większości zadań. Powstrzymywanie, kontrolowanie i dostosowywanie takich systemów nazwano w kodeksie jednym z największych wyzwań dla ludzkości.

Microsoft wraz z Anthropic, OpenAI i xAI zasadniczo popiera podejście polegające na ostrożnym rozwoju zaawansowanych systemów AI. Dyrektor generalny Microsoftu Satya Nadella również wyraził poparcie dla badań skoncentrowanych na dostosowaniu AI oraz idei wbudowanych ewaluatorów w laboratoriach AI.

Czytaj nas na Telegram i Sends