Cypryjskie wydanie: wydatki firm na AI rosną mimo spadku cen tokenów
Cypryjskie wydanie Cyprus Mail poinformowało, że PwC wzywa firmy do dokładniejszego kontrolowania wydatków na sztuczną inteligencję. Firma uważa, że dyscyplina wydatkowa może stać się przewagą konkurencyjną, ponieważ modele AI coraz bardziej się standaryzują i stają się dostępne dla szerokiego grona przedsiębiorstw.
Według oceny PwC ceny tokenów spadają, jednak całkowite wydatki biznesu na AI rosną. Tańsze modele skłaniają firmy do wykorzystywania AI w większej liczbie procesów, co może komplikować cykle pracy i zwiększać wydatki.
Gdzie pojawiają się zbędne koszty
PwC zaznaczyło, że firmy często wykorzystują więcej tokenów, niż jest to potrzebne, nie mając systemów do wykrywania strat. Koszty mogą narastać podczas planowania, korzystania z narzędzi, wyszukiwania informacji, rozumowania modelu, orkiestracji procesów, działania mechanizmów zabezpieczających, prowadzenia dzienników i weryfikacji wyników. Początkowe budżety mogą również nie obejmować pośrednich kosztów infrastruktury.
Dodatkowe wydatki mogą generować agenci AI, którzy tworzą plany, przekazują zadania innym agentom, wyszukują informacje i powtarzają procesy, jeśli wynik nie spełnia wymagań. Jednocześnie cena miliona tokenów, według PwC, może wynosić od kilku centów do 50 dolarów, zależnie od modelu i jego poziomu.
Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.
Kontrola kosztów w systemach AI
PwC radzi dobierać poziom modelu do konkretnego zadania, zamiast zawsze wybierać najtańszą opcję. Słabszy model, według oceny firmy, może powodować dodatkową pracę, błędne decyzje lub problemy z przestrzeganiem wymogów.
Firmom proponuje się ocenę kosztu i wartości projektów AI przed rozpoczęciem prac rozwojowych, modyfikowanie systemów w celu ograniczenia strat, powiązanie wydatków z wynikami biznesowymi oraz reinwestowanie oszczędności w nowe projekty AI. Wśród możliwych działań są ograniczanie niepotrzebnego kontekstu, łączenie kilku zadań w mniejszą liczbę zapytań, limity wydatków oraz automatyczne kierowanie pracy do najtańszego modelu zdolnego ją wykonać.
PwC rekomenduje wbudowanie takich mechanizmów bezpośrednio w systemy AI: ustanowienie obowiązkowych ograniczeń budżetowych, reguł kierowania, progów dla procesów roboczych i dzienników audytowych. Firma radzi również określać koszt każdego procesu AI na jeden wynik biznesowy, angażować dyrektora finansowego w kontrolę tych wydatków oraz zapewniać wsparcie techniczne odpowiedzialnym pracownikom finansowym.
PwC podało przykład globalnej firmy technologicznej, która dzięki temu podejściu obniżyła koszt jednego uruchomienia o 65–80%. Pozwoliło jej to uruchamiać AI od trzech do pięciu razy częściej przy tym samym budżecie. Średni czas wykonania również skrócił się z 12 do czterech godzin, a audyt pełnego cyklu wykazał, że jakość wyników została zachowana.
Czytaj nas na Telegram i Sends
