Pular para o conteúdo

Soluções · IA aplicada e agentes

Revisão humana maior que o ganho: onde o escopo resolve

A revisão humana passou a consumir mais do que o ganho. O problema é a IA contratada ou o desenho da revisão?

Resposta direta

A saída é tratar a revisão humana como parte do desenho, não como etapa final. Quando toda saída precisa de conferência integral, o ganho não vem da IA e sim de reduzir o que exige conferência. Isso passa por três decisões: separar quais decisões toleram erro e quais não, revisar por amostragem onde o risco é baixo e escrever o critério de aceite antes de contratar. Aumentar volume sem essas decisões apenas desloca o custo para a folha de revisão e mantém a fila crescendo junto com a produção.

Objetivo
Orientar avaliação e contratação
Formato indicado
Workshop executivo
Atualizado em

O que esta página acrescenta: Trata a revisão humana como item contratado, com escopo por risco e amostragem, em vez de discutir a qualidade do modelo.

Custo de revisão antes do custo do modelo

O ganho de um agente aparece no que ele produz. O custo aparece no que alguém precisa conferir depois. Quando os dois lados não são medidos juntos, a operação sente o segundo como aumento de trabalho e não como parte do projeto.

Três medidas costumam faltar: quantos itens passam por revisão no período, quanto tempo cada item consome e quem responde quando a saída revisada ainda dá erro. Sem a terceira, a conferência fica sem dono e o volume cresce por precaução, não por risco real.

Escopo por risco e critério de aceite

Nem toda saída merece o mesmo cuidado. Separe por consequência: o que gera erro reversível, corrigível sem custo alto, e o que gera erro irreversível para cliente, contrato ou dado. A conferência integral se justifica no segundo grupo. No primeiro, amostragem com registro resolve.

Antes de contratar volume, defina o critério de aceite: o que a saída precisa conter para seguir sem conferência. É esse critério que permite revisar por amostra e reduzir a fila. Contrato sem critério tende a comprar mais conferência, não menos.

O que redefinir o escopo não resolve

Reduzir revisão por risco não conserta problema de entrada. Se o dado chega incompleto ou o processo tem exceções frequentes, a conferência humana é a última barreira e precisa continuar até a origem melhorar. A decisão de escopo não substitui tratamento de dado.

Também não se aplica onde a regra exige conferência individual por norma, auditoria ou contrato, nem onde o erro é irreversível e a probabilidade é desconhecida. Nesses casos o ganho pode não existir no desenho atual. A contratação deve registrar isso por escrito, em vez de contar com redução futura.

Recurso prático

Fluxo para decidir o que segue em revisão integral

  1. Levantar quantos itens passam por revisão por período, o tempo médio de conferência por item e quem responde quando a saída revisada ainda gera erro.
  2. Classificar cada tipo de saída pela consequência do erro: o que é reversível sem custo alto e o que é irreversível para cliente, contrato ou dado.
  3. Escrever o critério de aceite por tipo de saída, ou seja, o que ela precisa conter para seguir sem conferência individual.
  4. Fixar revisão por amostra nos itens de risco baixo e manter conferência integral apenas onde o erro é irreversível ou exigido por norma, auditoria ou contrato.
  5. Registrar a taxa de reversão da amostra e revisar o desenho quando ela sobe, antes de ampliar volume contratado.

O erro mais comum é medir o ganho pelo que a IA produziu e não pelo que deixou de passar pela revisão. Sem esse segundo número, o contrato cresce na mesma proporção da fila.

Conceitos usados nesta página

  • Critério de aceite — Critério de aceite é a condição objetiva que define quando uma entrega, tarefa ou automação é considerada concluída — verificável por quem recebe, não por quem produziu.

Sobre o que está escrito aqui

Conceitos relacionados: amostragem de revisão · critério de aceite · taxa de reversão · risco da decisão · fila de conferência. Exemplos são ilustrativos. Não há cliente, resultado, preço, prazo ou certificação nesta página. Quando o formato indicado é Workshop executivo, ele descreve uma possibilidade de trabalho — a conversa inicial avalia contexto e aderência.

Para continuar

Páginas relacionadas

O mesmo problema em outro objetivo

Outras leituras em IA aplicada e agentes

Quer avaliar isso no seu contexto?

Esta página trata de volume de revisão humana maior que o ganho. Diagnóstico de Oportunidades e Riscos de IA é a frente que investiga o mecanismo por trás desse tipo de problema. O formato mais associado é Workshop executivo.