Australijskie firmy zwiększają wydatki na AI mimo tańszych tokenów
Australijskie firmy zwiększają wydatki na sztuczną inteligencję, choć cena tokenów — jednostek danych przetwarzanych przez modele AI w celu wykonywania zadań — znacząco spada. Przedsiębiorstwom trudno ocenić rzeczywiste korzyści z tej technologii i przewidzieć przyszłe koszty, informuje ABC News Australia.
Anna Volkova, dyrektorka ds. personelu i kultury korporacyjnej w firmie HiBob, tworzącej oprogramowanie HR, oświadczyła, że jej firma dostrzega korzyści z AI, w tym przyspieszenie pracy. Jednocześnie szybkie zmiany możliwości technologii sprawiają, że biznes musi stale przeglądać procesy pracy, dlatego na razie trudno dokładnie ocenić efektywność wydatków. Jej zdaniem wpływ AI na wyniki finansowe może stać się zauważalny za dwa-trzy lata.
Andrew Charlton, zastępca ministra technologii i gospodarki cyfrowej Australii, oświadczył, że kraj już wydaje na sztuczną inteligencję od 5 do 8 mld dolarów rocznie. Jak powiedział, zdecydowana większość tych płatności trafia za granicę, a rząd uważa, że roczne wydatki na AI mogą wzrosnąć do 20-40 mld dolarów w ciągu dekady.
Koszty rosną z powodu bardziej złożonych zadań
Według instytutu badawczego Epoch koszt miliona tokenów dla dużych modeli językowych na poziomie GPT-4 Turbo lub wydajniejszych spadł z 15 dolarów amerykańskich w listopadzie 2023 roku do 17,5 centa amerykańskiego w lutym 2025 roku. Do obniżki przyczyniły się konkurencja, wydajniejsze mikroczipy, rozbudowa centrów danych i udoskonalenia technologiczne.
Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.
Jednocześnie firmy znajdują dla AI nowe zadania i coraz częściej wykorzystują ją do złożonych obliczeń, które wymagają większej liczby tokenów na jedno zapytanie. Stu Scotis, szef działu AI w Deloitte, zauważył, że cyfrowy pracownik nie musi koniecznie kosztować mniej niż człowiek: koszt zależy od złożoności zadania i czasu pracy modelu.
Firmy kontrolują wykorzystanie modeli
Najpowszechniejszym sposobem płatności za AI jest liczba tokenów, choć część firm płaci za dostęp dla poszczególnych pracowników, w tym do narzędzi Microsoft Copilot. Przedstawiciel Elastic Jeremy Pell zauważył, że biznes coraz częściej łączy inicjatywy dotyczące sztucznej inteligencji z mierzalnym zwrotem.
Firmy rozdzielają także zadania między różne modele, wykorzystując droższe zaawansowane modele tylko tam, gdzie jest to konieczne. Niektóre ustalają pracownikom limity tokenów na określony okres. Ekspert ds. AI John Whittle ostrzegł, że niesystemowe wdrażanie technologii utrudnia kontrolę kosztów: jak powiedział, badania wykazały, że szacunki liczby tokenów dla tego samego zapytania w tej samej technologii mogą różnić się 30-krotnie.
