Writer представила ИИ-модель Palmyra X6 для сокращения затрат на токены
Компания Writer, разрабатывающая инструменты и агенты на основе искусственного интеллекта для маркетологов, представила флагманскую модель Palmyra X6 и обновила свой стандартный агентный харнесс. Обе новинки стали доступны клиентам компании в четверг, сообщает TechCrunch.
Palmyra X6 создана как вариация открытой модели GLM-5.2 от Z.ai после дополнительного обучения. В Writer заявили, что модель должна обеспечить готовые к развертыванию возможности по более низкой цене. По оценке компании, сочетание Palmyra X6 и изменений в её инфраструктуре для агентного набора может сократить расходы клиентов на базовые задачи до 50%.
Новый подход сосредоточен на сложных многоэтапных задачах, которые должны выполняться быстрее и с меньшим использованием токенов. Генеральный директор Writer Мэй Хабиб сказала TechCrunch, что корпоративные клиенты устали от погони за новыми показателями в тестах моделей и стремятся стабилизировать расходы.
Больше актуальных новостей читайте в Telegram-канале UA.News.
В недавней работе исследователи Writer проверяли влияние небольших изменений эффективности harness на различные модели. По результатам тестирования, во многих случаях оптимизация harness была более надежным способом снизить затраты, чем выбор другой модели: среднее сокращение затрат составило 40%.
Клиенты Writer смогут использовать Palmyra X6 наряду с другими моделями компании или внешними моделями, импортированными через Azure или Amazon Bedrock. Хабиб также заявила, что рост затрат на токены усиливает недоверие руководителей ИТ-подразделений к крупным лабораториям искусственного интеллекта.
