OpenAI miało odwołać premierę Astry 6.1 z powodu bezpieczeństwa — TechCrunch

OpenAI, według TechCrunch, powołującego się na The Wall Street Journal, zrezygnowało z planowanej premiery modelu sztucznej inteligencji Astra 6.1 z powodu obaw dotyczących jego bezpieczeństwa. Jak pisze WSJ, model mógł zostać zaprezentowany już w najbliższych dniach, choć OpenAI wcześniej planowało jego premierę na przyszły miesiąc.

Problemy podczas testów

Według WSJ Astra 6.1 wykazywała wyższy poziom zwodniczego zachowania niż wcześniejsze modele, a także niebezpieczne zachowanie. Szefowa działu systemów bezpieczeństwa OpenAI, Saachi Jain, powiedziała The Wall Street Journal, że model słabo przeszedł testy zgodności z ludzkimi intencjami. Wskaźnik ten określa, w jakim stopniu system jest w stanie przestrzegać ludzkich intencji.

Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.

Poprzednia wersja Astry

Na początku miesiąca OpenAI wypuściło Astrę, nazywając ją swoim najpotężniejszym wówczas modelem. TechCrunch zwrócił się do firmy o dodatkowy komentarz i poinformował, że zaktualizuje materiał w przypadku otrzymania odpowiedzi.

Kwestie bezpieczeństwa systemów sztucznej inteligencji w ostatnich miesiącach znajdują się w centrum uwagi branży. TechCrunch zauważa, że OpenAI i Anthropic wskazywały bezpieczeństwo jako powód do obaw. Jednocześnie krytycy sugerują, że nowe standardy branżowe mogą wzmocnić pozycję dużych firm ze szkodą dla mniej zasobnych deweloperów.