No software Na empresa 8×8, os funcionários estão usando Claude da Anthropic para redigir e-mails, analisar feedback de clientes e escrever códigos, mas até agora, sua crescente dependência do chatbot de inteligência artificial não preocupou a equipe financeira. Embora outras empresas do Vale do Silício, como Meta, Uber e Salesforce, tenham expressado publicamente preocupações sobre o custo crescente das ferramentas generativas de IA e tenham começado a introduzir limites de uso em alguns casos, a 8×8 diz que está no azul.
Nos últimos 18 meses, a empresa estima ter economizado cerca de US$ 5 milhões em custos anuais ao cancelar assinaturas de dezenas de softwares e ferramentas educacionais que considerou desnecessárias, em parte porque Claude poderia fornecer recursos semelhantes. Até agora, a conta anualizada da 8×8 para Claude está “bem abaixo” desse valor, diz Joel Neeb, diretor de transformação e operações de negócios da empresa.
Neeb espera que as economias e os custos eventualmente se nivelem, à medida que o 8×8 incentiva mais funcionários a adotar a IA e incorpora a tecnologia em trabalhos mais complicados. Mas, por enquanto, ainda há uma enorme lacuna, o que “deixa meu diretor financeiro feliz”, disse ele à WIRED. Ele se recusou a compartilhar o gasto total exato em IA generativa.
À medida que as empresas investem centenas de milhões de dólares em ferramentas de IA para codificação, marketing e atendimento ao cliente, surge uma nova obsessão na indústria tecnológica: “tokenomics”, ou como gerir o custo crescente da utilização da IA. (Os tokens representam a quantidade de conteúdo que um modelo de IA analisa e gera.)
No mês passado, o CEO do Royal Bank of Canada revelou que o uso de tokens aumentou 500% nos últimos seis meses. Na Cisco, um terço dos funcionários usa um chatbot interno de IA diariamente, então “o uso de tokens está ficando muito, muito louco”, disse o CEO Chuck Robbins em uma teleconferência de resultados. Alguns engenheiros importantes da Amplitude, desenvolvedora de software analítico, estão “gastando milhares de dólares por mês ou mais em tokens”, de acordo com seu CEO, Spenser Skates. Aaron Levine, CEO da Box, disse: “A conversa sobre orçamento de tokens assumiu absolutamente como um dos tópicos mais importantes” e “acalorados”.
Aproximadamente 300 empresas responderam a perguntas ou preocupações sobre tokens de IA durante suas teleconferências de resultados ou em discussões públicas com analistas financeiros em abril ou maio, de acordo com uma revisão da WIRED de transcrições do provedor de dados AlphaStreet. Essa é uma pequena fração das milhares de ligações realizadas durante o período, mas apenas 93 empresas mencionaram “token” em abril e maio de um ano atrás.
Executivos de diversas empresas disseram que estão desenvolvendo ou procurando comprar sistemas para ajudar a monitorar o uso de tokens e escolher o modelo de menor preço para um determinado prompt. Outros disseram que ainda estavam tentando descobrir como equilibrar a contratação de mais pessoas e o aumento de seus orçamentos para tokens para atingir seus objetivos.
O software raramente é barato, mas a última geração de ferramentas de IA está causando um estresse incomum nos executivos de alto escalão por vários motivos. Os preços continuam flutuando. Novos modelos mais potentes – e mais caros – que os anteriores são lançados todos os meses. E envolver organizações inteiras em novas formas de trabalhar tem sido um desafio, por isso os ganhos de produtividade alimentados pela IA numa equipa podem levar a estrangulamentos para outra.
20 por cento
Dito isso, algumas empresas ainda incentivam os funcionários a usar mais a IA sem se preocupar com a conta. Em abril, a marca de roupas Baseball Lifestyle 101, com sede em Long Island, Nova York, que espera gerar US$ 250 milhões em vendas este ano, disse a cerca de 50 de seus principais gerentes para gastarem o equivalente a cerca de 20% de seu salário em tokens de IA todos os meses.
Bill Rom, cofundador e diretor de estratégia da Baseball Lifestyle 101, disse à WIRED que o custo provavelmente ultrapassará US$ 100.000 por mês até o final do ano, mas já está valendo a pena. Claude recentemente ajudou a conseguir um pedido de US$ 1 milhão ao identificar que um varejista estava com poucos tamanhos dos populares shorts com estampa de sorvete da empresa. “Isso é um dia e meio de trabalho que agora pode acontecer em uma ou duas horas e que pode me render oito dígitos de receita adicional em 12 meses”, diz Rom.
Fonte: Wired
