Writer представила ШІ-модель Palmyra X6 для скорочення витрат на токени
Компанія Writer, що розробляє інструменти та агентів на основі штучного інтелекту для маркетологів, представила флагманську модель Palmyra X6 та оновила свій стандартний агентний harness. Обидві новинки стали доступними клієнтам компанії у четвер, повідомляє TechCrunch.
Palmyra X6 створена як варіація відкритої моделі GLM-5.2 від Z.ai після додаткового навчання. У Writer заявили, що модель має забезпечити готові до розгортання можливості за нижчою ціною. За оцінкою компанії, поєднання Palmyra X6 та змін у її інфраструктурі для harness може скоротити витрати клієнтів на базові завдання до 50%.
Новий підхід зосереджений на складних багатокрокових завданнях, які мають виконуватися швидше та з меншим використанням токенів. Генеральна директорка Writer Мей Хабіб сказала TechCrunch, що корпоративні клієнти втомилися від гонитви за новими показниками в тестах моделей і прагнуть стабілізувати витрати.
Більше актуальних новин читайте у Telegram-каналі UA.News.
У нещодавній роботі дослідники Writer перевіряли вплив невеликих змін ефективності harness на різні моделі. За результатами тестування, у багатьох випадках оптимізація harness була надійнішим способом знизити витрати, ніж вибір іншої моделі: середнє скорочення витрат становило 40%.
Клієнти Writer зможуть використовувати Palmyra X6 поряд з іншими моделями компанії або зовнішніми моделями, імпортованими через Azure чи Amazon Bedrock. Хабіб також заявила, що зростання витрат на токени посилює недовіру керівників ІТ-напрямів до великих лабораторій штучного інтелекту.
