Resposta direta
O custo de IA é imprevisível quando só o preço por token é acompanhado. A conta real soma quatro partes: contexto enviado, resposta gerada, tentativas repetidas e revisão humana. A variação aparece quando o contexto cresce sem controle, quando a mesma tarefa é reprocessada várias vezes ou quando o volume de uso sobe sem que o resultado aceito suba junto. Diagnosticar é separar essas partes, medir cada uma por período e comparar com o número de entregas aceitas. Sem essa separação, qualquer corte vira chute.
- Objetivo
- Diagnosticar
- Formato indicado
- Workshop executivo
- Atualizado em
O que esta página acrescenta: Trata o custo como soma de partes mensuráveis e separa escala de retrabalho, em vez de discutir preço de fornecedor.
As partes que compõem a conta de IA
Custo de IA não é uma linha só. Há o volume de contexto enviado, o volume gerado na resposta, o número de tentativas até a tarefa ser aceita e o tempo de revisão humana que sobra para a equipe. Cada parte tem origem diferente e responde a decisões diferentes.
Contexto cresce quando o histórico da conversa ou o acervo de documentos é anexado por inteiro. Tentativas repetidas aparecem quando a tarefa é ambígua ou a instrução muda a cada uso. Revisão humana depende do risco da entrega. Nenhuma dessas três coisas se comporta igual à outra ao longo do mês.
Onde a variação aparece antes de virar fatura
A fatura chega tarde. A variação costuma aparecer antes, no uso: número de execuções por dia, tamanho médio do contexto, taxa de reprocessamento e proporção de entregas que voltam para correção. São medidas internas e não dependem do fornecedor.
Comparar essas medidas com o número de entregas aceitas mostra se o custo subiu por mais trabalho ou por mais desperdício. Aumento de uso com aumento proporcional de entregas aceitas é escala. O mesmo aumento com entregas estáveis é retrabalho. A leitura é a mesma em qualquer período.
O que esse diagnóstico não resolve
Medir não torna o custo fixo. O uso de IA segue sensível a mudanças de comportamento dos usuários, a troca do modelo contratado e a picos de demanda. O diagnóstico mostra a origem da variação, não elimina a variação.
Também não decide o que cortar. Reduzir contexto pode piorar a qualidade. Travar tentativas pode aumentar a revisão humana. A decisão depende do custo do erro em cada fluxo, e isso é julgamento de operação, não conta.
Recurso prático
Custo por execução e custo por resultado aceito
Custo por execução = (tokens de entrada x preço de entrada) + (tokens de saída x preço de saída) + (tentativas repetidas x custo da tentativa). Custo por resultado aceito = custo total do período / número de entregas aceitas.
- Tokens de entrada
- tokens por execução
- Volume médio de contexto enviado ao modelo em cada chamada, incluindo histórico anexado.
- Tokens de saída
- tokens por execução
- Volume médio gerado na resposta devolvida ao fluxo.
- Tentativas repetidas
- execuções por tarefa
- Quantas vezes a mesma tarefa é reprocessada antes de ser aceita.
- Entregas aceitas
- unidades no período
- Resultados que passaram por revisão sem voltar para correção.
O erro mais comum é medir custo por chamada e comemorar o número baixo, sem notar que a taxa de reprocessamento subiu e o custo por entrega aceita ficou igual ou pior.
Conceitos usados nesta página
- Retrabalho — Retrabalho é o esforço repetido para corrigir ou refazer algo que já havia sido produzido — custo que não aparece no orçamento, mas consome capacidade e prazo.
Sobre o que está escrito aqui
Conceitos relacionados: custo por execução · tokens de contexto · retrabalho · revisão humana · custo por resultado aceito. Exemplos são ilustrativos. Não há cliente, resultado, preço, prazo ou certificação nesta página. Quando o formato indicado é Workshop executivo, ele descreve uma possibilidade de trabalho — a conversa inicial avalia contexto e aderência.
Para continuar
- IA aplicada e agentes — Página central do tema
- Agente sem supervisão direta: o que fica no l… — agentes sem supervisão
- Agente sem supervisão: comparar alternativas… — agentes sem supervisão
Páginas relacionadas
O mesmo problema em outro objetivo
- Custo imprevisível de IA: onde o gasto se acumula — Organizar um processo
- Custo variável de IA: como comparar formas de cobrança — Comparar alternativas
- Custo de IA que muda todo mês: como medir por etapa — Explicar medição
- Custo imprevisível de IA: estimar antes de escalar — Orientar implementação
- Custo imprevisível em IA: o que fixar antes de contratar — Orientar avaliação e contratação
Outras leituras em IA aplicada e agentes
- Custo de IA sem base de comparação: o que entra na conta — O que medir no processo manual e no processo com IA para comparar custo na mesma unidade de trabalho e decidir a contratação.
- Custo de IA sem base manual: onde ancorar a medição — Medição de custo de IA quando não existe processo manual equivalente: linha de base, custo por execução e os limites dessa comparação.
- Modelo escolhido por reputação: como medir na operação — Descreve como comparar o modelo escolhido por reputação com a própria operação, definindo critério de aceite, revisão humana e custo por saída aceita.
- Conversa difícil adiada com IA: como medir o custo disso — Medição de mensagens difíceis que a IA redige ou intermedia: o que acompanhar para ver se o assunto fecha ou volta mais caro depois.
- Uso de IA sem finalidade registrada: o que medir — Explica como medir uso de IA sem registro de finalidade, a partir de evidências do trabalho, amostragem de tarefas e critérios de responsabilidade.