Кипрское издание: расходы компаний на ИИ растут, несмотря на снижение цен токенов
Кипрское издание Cyprus Mail сообщило, что PwC призывает компании тщательнее контролировать расходы на искусственный интеллект. В фирме считают, что дисциплина в расходах может стать конкурентным преимуществом, поскольку модели ИИ все больше стандартизируются и становятся доступными широкому кругу компаний.
По оценке PwC, цены на токены снижаются, однако общие расходы бизнеса на ИИ растут. Более дешевые модели побуждают компании использовать ИИ в большем количестве процессов, что может усложнять рабочие циклы и увеличивать расходы.
Где возникают лишние расходы
В PwC отметили, что компании нередко используют больше токенов, чем необходимо, не имея систем для выявления потерь. Расходы могут накапливаться при планировании, использовании инструментов, поиске информации, рассуждениях модели, оркестрации процессов, работе защитных механизмов, ведении журналов и проверке результатов. В первоначальные бюджеты также могут не включаться косвенные расходы на инфраструктуру.
Дополнительные расходы могут создавать ИИ-агенты, которые формируют планы, передают задачи другим агентам, ищут информацию и повторяют процессы, если результат не отвечает требованиям. В то же время цена миллиона токенов, по данным PwC, может колебаться от нескольких центов до 50 долларов в зависимости от модели и ее уровня.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Контроль расходов в системах ИИ
PwC советует подбирать уровень модели в соответствии с конкретной задачей, а не всегда выбирать самый дешевый вариант. Более слабая модель, по оценке фирмы, может привести к дополнительной работе, ошибочным решениям или проблемам с соблюдением требований.
Компаниям предлагают оценивать стоимость и ценность ИИ-проектов до начала разработки, изменять системы для сокращения потерь, связывать расходы с бизнес-результатами и реинвестировать сбережения в новые ИИ-проекты. Среди возможных мер — сокращение ненужного контекста, объединение нескольких задач в меньшее количество запросов, лимиты расходов и автоматическое направление работы к самой дешевой модели, способной ее выполнить.
PwC рекомендует встраивать такие механизмы непосредственно в системы ИИ: устанавливать обязательные бюджетные ограничения, правила маршрутизации, пороги для рабочих процессов и журналы аудита. Фирма также советует определять стоимость каждого ИИ-процесса на один бизнес-результат, привлекать финансового директора к контролю этих расходов и предоставлять техническую поддержку ответственным финансовым сотрудникам.
PwC привела пример глобальной технологической компании, которая благодаря такому подходу сократила стоимость одного запуска на 65–80%. Это позволило ей запускать ИИ в три-пять раз чаще при том же бюджете. Среднее время выполнения также сократилось с 12 до четырех часов, а аудит полного цикла показал, что качество результатов сохранилось.