OpenAI zaprezentowało model Astra z rozszerzonymi możliwościami cybernetycznymi

W czwartek OpenAI zaprezentowało nowy model sztucznej inteligencji Astra, który firma nazywa swoim najpotężniejszym i najbardziej zaawansowanym rozwiązaniem do tej pory. Według OpenAI model otwiera „nową granicę” w pracy z komputerem i przeglądarką oraz wykonuje zadania z niespotykaną dotąd szybkością, precyzją i bezpieczeństwem.

Początkowo Astra stała się dostępna dla klientów programu OpenAI Daybreak w dziedzinie cyberbezpieczeństwa. W ciągu następnego tygodnia firma planuje również udostępnić ją użytkownikom płatnych planów Pro, Plus, Enterprise i Business oraz przez API. O uruchomieniu modelu i deklarowanych możliwościach informuje TechCrunch.

Cyberbezpieczeństwo i programowanie

Prezes OpenAI Greg Brockman nazwał Astrę najinteligentniejszym modelem firmy i modelem najbardziej zgodnym z intencjami użytkowników. Taka zgodność oznacza skłonność modelu do działania zgodnie z prośbami użytkownika lub w jego interesie. Według Brockmana Astra połączyła rezultaty wieloletnich badań i może zmienić charakter pracy, którą ludzie delegują sztucznej inteligencji.

OpenAI oświadczyło, że przetestowało Astrę pod kątem szeregu benchmarków bezpieczeństwa. Firma twierdzi, że model może wykrywać i opracowywać exploity zero-day, co może pomóc specjalistom ds. bezpieczeństwa w znajdowaniu i usuwaniu podatności. OpenAI nazywa Astrę również swoim najlepszym modelem do inżynierii oprogramowania i przytacza wyniki testów, w których, według firmy, przewyższa ona inne modele, w tym OpenAI Sol i Anthropic Fable, w znajdowaniu błędów, wykonywaniu zadań w terminalu oraz odpowiadaniu na zapytania dotyczące baz kodu.

Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.

Przejrzystość rozumowania i AGI

Jednocześnie Astra zwróciła uwagę z powodu wykorzystania techniki opaque recurrence, czyli nieprzezroczystej rekurencji. Może ona utrudniać monitorowanie łańcucha rozumowania modelu — procesu, który pozwala badaczom sprawdzać, jak i dlaczego sztuczna inteligencja podjęła określoną decyzję.

Główny naukowiec OpenAI Jakub Pachocki oświadczył, że kontrola nad procesem rozumowania jest ważną formą nadzoru, jednak wraz ze wzrostem możliwości modeli ich obserwowalność staje się trudniejsza. Jego zdaniem potężniejsze modele mogą wykonywać bardziej złożone zadania przy użyciu mniejszej liczby tokenów językowych lub bez nich, przez co takie działania są trudniejsze do śledzenia.

Odpowiadając na pytanie o sztuczną inteligencję ogólną, Brockman powiedział, że nie ma już kontraktowego kryterium AGI. Miał na myśli wcześniejszy warunek umowy OpenAI z Microsoftem, zgodnie z którym partnerstwo miało zakończyć się po osiągnięciu AGI. Według Brockmana pojęcie AGI stało się raczej „koncepcją misyjną lub duchową”, a o tym, czy Astra spełnia tę definicję, czytelnicy powinni zdecydować sami. Jednocześnie dodał, że osobiście uważa, iż ten poziom został już osiągnięty.

Czytaj nas na Telegram i Sends