Notícias
DR. Processo, o que são tokens e como as gigantes de IA cobram seus serviços?
Quando usamos inteligência artificial, existe uma espécie de “medidor de consumo” funcionando por trás de cada pergunta e de cada resposta. Esse medidor é baseado, principalmente, em tokens.
Um token é uma pequena unidade de informação processada pela IA. Uma palavra pode representar um token ou ser dividida em vários. Pontuação, números, trechos de código e outros elementos também podem consumir tokens.
Na prática, pense no token como o quilowatt-hora da inteligência artificial: quanto mais informação a IA precisa ler, interpretar, raciocinar e produzir, maior será o consumo.
E aqui aparece uma diferença importante.
Quando uma empresa utiliza modelos de IA por meio de APIs, fornecedores como OpenAI e Google normalmente separam a cobrança em tokens de entrada e tokens de saída.
Entrada é aquilo que enviamos para a IA: perguntas, documentos, contratos, dados, históricos, instruções etc.
Saída é aquilo que a IA gera: respostas, análises, relatórios, códigos, resumos ou decisões produzidas pelo modelo.
E os dois podem ter preços diferentes. Na OpenAI, por exemplo, a tabela oficial atualmente apresenta preços por 1 milhão de tokens, diferenciando entrada, entrada em cache e saída. O Google utiliza estrutura semelhante em suas APIs Gemini e, em alguns modelos, inclui também os chamados tokens de pensamento no cálculo da saída.
Isso não significa que cada pergunta custe milhões de tokens. Um milhão é apenas a unidade utilizada para apresentar o preço, assim como uma operadora pode apresentar o preço de um gigabyte mesmo que você utilize apenas parte dele.
Existe ainda outra diferença importante: ChatGPT, Gemini ou Claude utilizados como aplicativos podem ser vendidos por assinatura mensal, enquanto uma empresa que incorpora esses modelos aos seus próprios sistemas e processos geralmente utiliza APIs e passa a ter uma cobrança diretamente relacionada ao consumo.
E é justamente aqui que o assunto deixa de ser técnico e passa a ser estratégico.
Imagine uma companhia com agentes de IA analisando milhares de documentos, atendendo clientes, qualificando leads, verificando contratos, pesquisando fornecedores e tomando decisões durante 24 horas por dia.
Cada execução poderá consumir tokens.
Portanto, em projetos de automação, não será suficiente perguntar:
“Quanto custa a ferramenta de IA?”
Será necessário perguntar:
“Quantos processos serão executados, quantas vezes, quanto contexto cada execução exigirá e qual será o consumo de IA dessa operação?”
É o começo de uma nova variável na gestão dos processos: o AI Workload, a carga de trabalho que entregamos à inteligência artificial.
CONSELHO DO DR. PROCESSO
Não tenha medo dos tokens. Comece a medi-los.
Na era da IA, uma automação não deverá ser analisada apenas pelo custo da licença. Será necessário conhecer também o consumo de inteligência necessário para executar cada processo.
Talvez, em pouco tempo, controlar tokens seja tão natural para uma empresa quanto hoje controlar cloud, armazenamento ou energia.
A IA pode parecer virtual. O consumo dela, não.