TypeSafe prezentuje model Jev do automatyzacji oprogramowania — TechCrunch

Startup TypeSafe AI zaprezentował transformatorowy model Jev, który deweloperzy postrzegają jako narzędzie do automatyzacji oprogramowania. Nie należy on do dużych modeli językowych i zamiast tekstu generuje prawdopodobieństwa lub, zgodnie z definicją firmy, „skalibrowane decyzje”. O uruchomieniu informuje TechCrunch.

Firma została założona dwa lata temu przez byłego badacza OpenAI Diogo Almeidę, który uczestniczył w tworzeniu ChatGPT oraz opracowaniu metody uczenia ze wzmocnieniem na podstawie informacji zwrotnej od ludzi — RLHF. Almeida uważa, że modele językowe dobrze radzą sobie z ludzkim językiem, ale nie zawsze nadają się do automatyzacji, ponieważ systemy komputerowe wykorzystują inne formaty interakcji.

Szybkość i koszt

TypeSafe twierdzi, że użytkownicy z góry określają możliwe wyniki działania Jev, dlatego model nie generuje tekstu i nie może halucynować w zwykłym sensie właściwym dla modeli językowych. Firma deklaruje również niższy koszt i większą szybkość działania: tokeny wyjściowe są bezpłatne, a wejściowe mierzone są w miliardach, a nie milionach. Po uruchomieniu popyt na Jev był tak duży, że API firmy przez krótki czas nie było w stanie obsługiwać użytkowników.

Inżynier Vercel Pranit Sharma powiedział, że jego firma zastąpiła klasyfikator oparty na ChatGPT Luna 5.6 modelem Jev do sprawdzania bezpieczeństwa poleceń. Według niego po tej zmianie wyniki uzyskiwano od 5 do 18 razy szybciej i z większą dokładnością.

Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.

Kontrola agentów i routing modeli

Dyrektor techniczny Bryo AI Nikhil Mudholkar porównał Jev z Gemini w zadaniu klasyfikacji e-maili biznesowych. W jego teście Gemini był nieco dokładniejszy, ale kosztował od 10 do 20 razy więcej. Mudholkar osobno zwrócił uwagę na oceny pewności Jev, które jego zdaniem nadają się do automatyzacji procesów roboczych.

Jev może również uzupełniać modele językowe, śledząc działania agentów AI i pomagając zapobiegać atakom jailbreak. Dyrektor techniczny Earendil Armin Ronacher zaznaczył, że model może być przydatny do kierowania zapytań między różnymi modelami poprzez określanie, czy konkretne zadanie wymaga określonego modelu.

TypeSafe nazywa Jev modelem „System One”, zorientowanym na intuicję, a nie rozumowanie, oraz na wykonanie konkretnego zadania. Według Almeidy model jest trenowany wyłącznie na danych syntetycznych z wykorzystaniem podejścia, które firma nazywa uczeniem ze wzmocnieniem na podstawie skalibrowanych decyzji. TypeSafe planuje wypuszczać nowe wersje Jev dla innych modalności.

Czytaj nas na Telegram i Sends