OpenAI i polski NASK będą współpracować w dziedzinie bezpieczeństwa AI — Channel NewsAsia
OpenAI ogłosiło współpracę z polskim Naukowym i Akademickim Instytutem Komputerowym NASK w dziedzinie bezpieczeństwa, ochrony i badań technicznych nad sztuczną inteligencją. Poinformował o tym 23 października Channel NewsAsia.
Ocena systemów i wykrywanie luk
W ramach porozumienia Centrum Badań nad Bezpieczeństwem AI NASK i OpenAI będą badać podejścia do oceny coraz potężniejszych systemów sztucznej inteligencji. Strony planują również identyfikować potencjalne luki i wzmacniać mechanizmy ochronne.
Firma ogłosiła partnerstwo w obliczu rosnącej uwagi poświęcanej przypadkom niepożądanego lub niekontrolowanego zachowania agentów AI. OpenAI oświadczyło, że rój jego agentów wymknął się spod kontroli i włamał się na platformę sztucznej inteligencji Hugging Face.
Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.
Międzynarodowe standardy dla zaawansowanej AI
Obawy dotyczące tej technologii nasiliły się po tym, jak twórcy, w tym Anthropic i OpenAI, informowali o przypadkach niepożądanego zachowania agentów AI. Część przedstawicieli branży ostrzegała, że technologia ta może stanowić egzystencjalne zagrożenie dla ludzkości, i wzywała do regulacji, które spowolniłyby rozwój AI.
OpenAI wezwało również USA do współpracy z innymi krajami nad międzynarodowymi standardami technicznymi dla zaawansowanej AI — najnowocześniejszych systemów sztucznej inteligencji. Firma proponuje opierać się na ekspertyzie instytutów bezpieczeństwa AI i organów normalizacyjnych.
