Opinião

O movimento anti-token

Diego Seguro

Empresas que acertaram com IA e empresas que ainda tropeçam estão presas à mesma conta. O mercado respondeu com uma enxurrada de técnicas para gastar menos tokens.

Segundo reportagens da Fortune e da Forbes, a Uber gastou o orçamento de IA de 2026 inteiro até Abril, e o CTO, Praveen Neppalli Naga, disse isso em público. As mesmas matérias afirmam que a Microsoft cancelou a maior parte das licenças internas de Claude Code e que o custo por engenheiro chegou a algo entre 500 e 2.000 dólares por mês. Ninguém ali era uma startup sem controle financeiro. Eram empresas que adotaram rápido, viram o uso explodir e só então foram procurar o freio.

O episódio mostra algo que aparece nas pesquisas: ter êxito com IA e gastar demais com IA não são posições que se excluem.

Dois grupos, uma mesma conta

Quem ganhou dinheiro com IA generativa ainda é minoria. Numa pesquisa da BCG com cerca de 1.250 empresas, só 5% observaram valor em escala, e 60% relataram valor mínimo ou nenhum. A Forrester ouviu 1.576 executivos e encontrou 15% com margens de lucro melhores. A McKinsey diz que quase oito em cada dez empresas usam IA generativa e que quase a mesma fração não vê efeito no resultado financeiro. São levantamentos de 2024 e 2025, com metodologias diferentes, então convém ler os números como ordem de grandeza.

Há um contraponto. Na Alemanha, uma pesquisa da KPMG divulgada em Junho deste ano mostrou 71% das empresas dizendo que seus investimentos em IA atenderam ou superaram as expectativas. Satisfação declarada e impacto no resultado respondem a perguntas diferentes, e é provável que boa parte da distância entre 71% e 5% venha da régua usada, não da realidade das empresas.

A conta chega aos dois lados. Quem está no grupo pequeno costuma estar a escalar, e ao escalar multiplica chamadas. Quem está no grupo grande costuma estar prototipando e testando, a fase em que ninguém sabe ainda quanto custa uma tarefa. A Mavvrik achou, em 2025, que 85% das empresas erraram a previsão de custo de IA em mais de 10%. O State of FinOps 2026 registrou 73% das organizações com custo acima do planeado. A McKinsey chegou a 93% numa pesquisa de Maio, mas com apenas 75 empresas, uma amostra pequena. A pesquisa maior da mesma consultora, com 1.719 respondentes, indica que uma em cada cinco organizações já limitou o uso de IA por causa do custo operacional. A Gartner prevê que mais de 40% dos projectos de IA agêntica serão cancelados até o fim de 2027, em parte por custo crescente.

O token ficou barato e a conta cresceu

O preço por milhão de tokens para uma capacidade equivalente caiu de cerca de 20 dólares para 7 centavos, segundo o AI Index de Stanford citado pela McKinsey. Mesmo assim, o gasto empresarial com LLMs triplicou nos 12 meses até o fim de 2025. A explicação está no comportamento dos sistemas. Um agente planeja, chama ferramentas, confere o resultado e tenta de novo. A Gartner estima que agentes consomem de 5 a 30 vezes mais tokens por tarefa que um chatbot, e há quem relate laços de 50 a 200 chamadas para uma tarefa só. Segundo a McKinsey, 60% do gasto agêntico vai para o refinamento da resposta, e não para a primeira chamada.

Uma ressalva: token não é a conta inteira. Num caso bancário descrito em material que cita a McKinsey, os tokens respondiam por 22% do custo por empréstimo, e o resto ia para chamadas de ferramentas, buscas vetoriais, revisão humana e conformidade. Mesmo assim, o token é a parcela mais fácil de medir e de cortar, e acho que é por isso que ele virou o alvo.

O mesmo token na factura e na rede eléctrica

Os data centers consumiram cerca de 415 TWh em 2024, algo como 1,5% da electricidade mundial, de acordo com a IEA, que projecta 945 TWh em 2030 no cenário central. Estimativas apontam que de 80 a 90% da computação de IA é inferência, e a Gartner diz que a inferência já responde por 55% do gasto com infra-estrutura de nuvem para IA em 2026.

Não existe consenso sobre energia por consulta. Uma revisão recente cita uma mediana de 0,31 Wh para uma consulta típica de chatbot e alerta que os números públicos podem estar inflados de 4 a 20 vezes em relação a implantações optimizadas. Provedores de modelos fechados quase não divulgam dados que permitam conferir. O que se sabe com mais segurança é a proporção. Num trabalho que estima a energia de inferência, um cenário de raciocínio com 15 vezes mais tokens por consulta elevou a energia mediana em 13 vezes, para 4,32 Wh. Nesse modelo, a energia acompanhou quase de perto o número de tokens. Os mesmos autores calculam que o roteamento automático de modelos pode reduzir a energia por consulta em 5 vezes ou mais, e que as alavancas combinadas poderiam chegar de 8 a 20 vezes.

Isso muda o argumento. Cortar tokens deixa de ser só uma política de economia e passa a ser uma das poucas medidas de sustentabilidade que o time de produto controla sem esperar pelo fornecedor de energia.

O que o mercado está a fazer

Chamo de movimento anti-token o conjunto de técnicas, frameworks e mudanças de arquitetura que tentam entregar o mesmo resultado com menos tokens. As frentes principais são cinco.

Pensar menos

A vertente mais visível é fazer o modelo raciocinar só quando precisa. O Haiku 5.5, lançado em 7 de outubro, é o primeiro Haiku com parâmetro de esforço e pensamento adaptativo. Num teste de terceiros, o esforço baixo resolveu todas as tarefas por um décimo do custo, e o esforço máximo foi pior e mais caro. Na pesquisa, o BET reduziu os tokens de raciocínio em 54% e ainda melhorou a acurácia em até 3,2%. O Draft-Thinking cortou 82,6% do orçamento de raciocínio no MATH500, com queda de 2,6% no desempenho.

Há também a aposta mais radical, que é tirar o raciocínio do texto. O Coconut, da Meta, realimenta estados ocultos do modelo em vez de gerar palavras, e usou 9 tokens onde o raciocínio em cadeia usou 92,5 no ProntoQA. O preço é a legibilidade: ninguém consegue auditar o que o modelo pensou.

Carregar menos contexto

O contexto é o outro grande ralo. A Anthropic mostrou que, com busca de ferramentas sob demanda, a definição das ferramentas num exemplo cai para cerca de 8.700 tokens e preserva 95% da janela. A chamada programática de ferramentas, em que o modelo escreve código para chamá-las sem passar os resultados intermediários pelo contexto, melhorou o desempenho em 11% com 24% menos tokens de entrada em benchmarks de busca.

O cache de prompt cobra 10% do preço de entrada por leitura, e a API em lote dá 50% de desconto. Nenhum dos dois reduz tokens, só o preço deles, mas entram na mesma conversa porque atacam a mesma factura. Ferramentas como o RTK filtram a saída de comandos antes que chegue ao agente e prometem de 60 a 90% de economia, número do próprio projecto. O LLMLingua-2 comprime prompts de 2 a 5 vezes com perda pequena.

E há o estudo mais recente, de Meta, MIT e Universidade de Washington, sobre os Context Language Models, em que o próprio modelo reescreve o histórico como se fosse um arquivo. Os autores relatam 59% menos FLOPs numa tarefa de 12 horas, com ganho de pontuação. Críticos observam que reescrever o contexto invalida o cache de prefixo, o que pode devolver parte da economia.

Escolher o modelo certo

Roteadores como o RouteLLM mandam as consultas fáceis para modelos baratos e as difíceis para modelos de fronteira, com economia de 35 a 85% em benchmarks. O Gemini Agent, apresentado em 8 de Outubro, escolhe entre modelos Gemini e Claude para cada tarefa, e a Google sustenta que isso melhora a precisão nas tarefas difíceis e reduz custo nas simples. O GitLab 19.4 passou a hospedar Kimi K3, MiniMax M3 e GLM 5.3 e diz entregar até 4 vezes mais chamadas por crédito que modelos de fronteira comparáveis. A Decagon relatou queda de seis vezes no custo de inferência ao sair de APIs fechadas cobradas por token para modelos de pesos abertos.

Há uma armadilha. Trocar de modelo no meio de uma sessão pode jogar fora o cache, e um leitor atento do projecto argrouter calcula que isso custa um desconto de 75 a 97% em troca de uma economia menor.

Gastar menos por token na infraestrutura

O TurboQuant, do Google, anunciado em Março de 2026, comprime o KV cache para 3 bits por valor, com seis vezes menos memória e sem perda de acurácia medida. A decodificação especulativa deixa um modelo pequeno rascunhar os tokens que o grande só verifica, e o VeriCache aplica a mesma ideia ao próprio cache, mantendo a saída idêntica à da decodificação completa. Esses ganhos reduzem o custo de cada token mais do que o número deles, e ficam em grande parte invisíveis para quem consome API.

Colocar um tecto

O Gemini Agent pausa o agente quando o projecto chega ao limite de gasto. O GitLab atribui cada crédito a um usuário. A FinOps Foundation relata que a gestão de gasto com IA saltou de 31% das equipes em 2024 para a maioria em 2026, embora as fontes divirjam sobre o número exacto. É a parte menos sofisticada tecnicamente e talvez a mais eficaz no curto prazo.

O que ainda não está resolvido

Primeiro, as técnicas brigam entre si. Roteamento e reescrita de contexto quebram o cache, e o saldo líquido só aparece medindo a tarefa inteira.

Segundo, os números são de vendors e de benchmarks específicos. O próprio paper dos Context Language Models foi criticado por apresentar ganhos em tarefas escolhidas, e os autores reconhecem que um contexto editável pode virar mais um canal por onde injecção de prompt persiste entre turnos.

Terceiro, o raciocínio latente troca custo por transparência. Quem trabalha com sectores regulados vai ter dificuldade de aceitar um modelo cujo raciocínio não dá para ler.

Por último, vem o efeito rebote. O preço do token caiu mais de 99% e o gasto triplicou. Se a eficiência apenas baratear cada chamada, é plausível que as empresas simplesmente façam mais chamadas, e a energia total não cai.

Por onde começar

Se eu tivesse que escolher a primeira semana de trabalho, mediria tokens por tarefa, e não por requisição, porque é a tarefa que o negócio paga. Ligaria o cache de prompt. Deixaria o esforço de raciocínio baixo por padrão e só o subiria onde um teste mostrasse perda de qualidade. Mandaria para lote tudo o que pode esperar. O roteador fica para depois, quando já houver dados sobre quais tarefas valem um modelo caro.

O que vai decidir se o movimento anti-token reduz o impacto ambiental da IA é o destino da economia. Se ela virar orçamento menor, o ganho é real. Se virar mais uso, os últimos dois anos sugerem que a conta de energia continua subindo, só que com tokens mais baratos.

Artigos Relacionados