Firma Writer zaprezentowała model sztucznej inteligencji Palmyra X6, mający na celu obniżenie kosztów związanych z tokenami

Firma Writer, zajmująca się tworzeniem narzędzi i agentów opartych na sztucznej inteligencji dla specjalistów ds. marketingu, zaprezentowała swój flagowy model Palmyra X6 oraz zaktualizowała swój standardowy zestaw agentów. Obie nowości stały się dostępne dla klientów firmy w czwartek, jak podaje TechCrunch.

Palmyra X6 została stworzona jako wariant otwartej modelu GLM-5.2 firmy Z.ai po dodatkowym szkoleniu. W firmie Writer oświadczono, że model ten ma zapewnić gotowe do wdrożenia możliwości po niższej cenie. Według szacunków firmy połączenie modelu Palmyra X6 oraz zmian w infrastrukturze obsługującej ten model może obniżyć koszty klientów związane z podstawowymi zadaniami nawet o 50%.

Nowe podejście koncentruje się na złożonych, wieloetapowych zadaniach, które powinny być wykonywane szybciej i przy mniejszym zużyciu tokenów. Dyrektor generalna Writer, Mei Habib, powiedziała serwisowi TechCrunch, że klienci korporacyjni są zmęczeni pogoń za nowymi wynikami w testach modeli i dążą do ustabilizowania kosztów.

Więcej aktualnych wiadomości można znaleźć na kanale Telegram UA.News.

W niedawnej pracy naukowcy z firmy Writer badali wpływ niewielkich zmian wydajności harnessu na różne modele. Wyniki testów wykazały, że w wielu przypadkach optymalizacja harnessu była bardziej niezawodnym sposobem na obniżenie kosztów niż wybór innego modelu: średnia redukcja kosztów wyniosła 40%.

Klienci Writer będą mogli korzystać z Palmyra X6 równolegle z innymi modelami firmy lub modelami zewnętrznymi importowanymi za pośrednictwem Azure lub Amazon Bedrock. Habib stwierdziła również, że wzrost kosztów tokenów pogłębia nieufność kierowników działów IT wobec dużych laboratoriów zajmujących się sztuczną inteligencją.

Czytaj nas na Telegram i Sends