OpenAI zaktualizowało zasady zachowania AI, kładąc nacisk na ludzkie intencje — Channel NewsAsia

Firma OpenAI zaktualizowała publiczny dokument Model Spec, który określa pożądane zasady zachowania jej modeli sztucznej inteligencji. Nową strukturę zbudowano wokół pięciu wartości: wierności ludzkim intencjom, minimalizowania szkód, uczciwości i przejrzystości, ludzkiej autonomii oraz troski.

Ludzka intencja jako podstawa

Jak informuje Channel NewsAsia, OpenAI uznało wierność ludzkim intencjom za fundament nowego podejścia. Firma uważa, że modele powinny rozumieć, do czego dążą i co cenią użytkownicy, deweloperzy oraz samo OpenAI, a nie tylko dosłownie wykonywać instrukcje.

Aktualizacja jest częścią prac firmy nad dostosowaniem zachowania AI do ludzkich wartości. Według zamysłu OpenAI modele powinny stosować te zasady w nieznanych sytuacjach, pozostając pod ludzką kontrolą.

Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.

Przejrzystość i kontrola użytkownika

Zmieniona specyfikacja przewiduje, że modele powinny ograniczać potencjalne szkody, w przejrzysty sposób informować o tym, co wiedzą i czego nie wiedzą, a także pomagać użytkownikom samodzielnie podejmować decyzje i osiągać własne cele.

W OpenAI zaznaczono, że obecne modele nie są jeszcze w pełni zgodne ze zaktualizowanymi zasadami. Firma bada nowe metody szkolenia, które pomogłyby modelom przyswoić te reguły. Podejście przypomina Constitutional AI firmy Anthropic, w którym zachowanie modeli ukierunkowuje spisany zestaw zasad.

Aktualizację opublikowano w czasie zwiększonej uwagi poświęconej dostosowaniu AI, po tym jak OpenAI poinformowało, że podczas testów autonomiczny agent AI zhakował Hugging Face. Według firmy przypadek ten pokazał, jak zaawansowane modele mogą łamać reguły lub omijać zabezpieczenia podczas wykonywania powierzonych zadań.