Resposta direta
A comparação se faz pelo custo do erro, não pelo grau de autonomia. O agente que apenas sugere erra barato, porque alguém revisa antes de qualquer efeito. O agente que executa erra caro quando a ação é irreversível. Por isso a unidade de comparação é a ação, não o agente. A lista de ações possíveis, classificadas por reversibilidade e impacto, define o arranjo de supervisão de cada uma: aprovação antes de executar, execução com registro e revisão posterior, ou execução livre com amostragem. O mesmo agente pode operar nos três regimes ao mesmo tempo.
- Objetivo
- Comparar alternativas
- Formato indicado
- Workshop executivo
- Atualizado em
O que esta página acrescenta: Compara arranjos de supervisão por tipo de ação e o que medir em cada arranjo, em vez de tratar risco, teste ou limite de forma isolada.
O que separa uma alternativa da outra
Dois agentes com o mesmo modelo e o mesmo acesso podem exigir supervisões diferentes porque executam ações diferentes. Comparar alternativas pelo nome do agente ou pela origem do sistema não diz nada sobre o risco. O critério que separa as opções é o que acontece quando a ação dá errado e quem responde por ela.
Uma ação que deixa um rascunho pronto para revisão interna e uma que altera limite de crédito de terceiro não pertencem à mesma categoria. A primeira aceita execução livre. A segunda exige aprovação antes de qualquer efeito. A comparação começa pela lista de ações e pelo custo estimado de desfazer cada uma.
Três arranjos e o que medir em cada um
No primeiro arranjo, o agente apenas sugere e a execução depende de pessoa. No segundo, o agente executa e alguém revisa depois, por amostragem ou por completo. No terceiro, o agente executa com liberdade, e o controle se faz por registro e por limites definidos antes.
Cada arranjo se mede por coisas diferentes. No primeiro, mede-se o tempo de revisão por decisão. No segundo, mede-se a taxa de correção dentro das revisões. No terceiro, mede-se o volume de exceções que exigiram intervenção. Sem essa medida, a escolha entre alternativas vira preferência pessoal de quem aprova.
O que a comparação não resolve
Comparar arranjos não decide se o agente deve existir. Quando a ação tem regra estável e verificável, a decisão automática por regra costuma bastar, e o agente acrescenta um ponto de falha. A comparação parte do pressuposto de que a tarefa já se mostrou adequada para um agente.
O arranjo escolhido também não elimina o erro nem transfere a responsabilidade. Aprovação humana em volume alto tende a virar carimbo, e nenhum registro substitui alguém com autoridade para responder pelo que o agente fez.
Recurso prático
Escolha do regime de supervisão por ação
- Ação reversível e de baixo impacto: execução livre, com registro
- Ação irreversível ou que altera cadastro de terceiro: aprovação antes de executar
- Ação com efeito financeiro acima do teto definido: aprovação antes de executar
- Ação de volume alto e efeito repetido: execução livre com revisão por amostragem
- Ação nova, sem histórico de execução: aprovação nas primeiras ocorrências até acumular registro
- Toda ação: registro de quem autorizou, o que o agente fez e qual dado usou
O erro mais comum é escolher o regime pelo agente inteiro, e não pela ação. Assim uma tarefa irreversível herda a liberdade de uma tarefa reversível do mesmo agente.
Conceitos usados nesta página
- Registro de execução — Registro de execução é a evidência de que uma rotina, automação ou tarefa rodou — com identificador, data, insumo, resultado e responsável.
Sobre o que está escrito aqui
Conceitos relacionados: reversibilidade da ação · ponto de aprovação · revisão por amostragem · registro de execução · custo do erro. Exemplos são ilustrativos. Não há cliente, resultado, preço, prazo ou certificação nesta página. Quando o formato indicado é Workshop executivo, ele descreve uma possibilidade de trabalho — a conversa inicial avalia contexto e aderência.
Para continuar
- IA aplicada e agentes — Página central do tema
- Agente sem supervisão: riscos e onde colocar… — agentes sem supervisão
- Avaliar resposta de IA antes de produção: um… — respostas incorretas
Páginas relacionadas
O mesmo problema em outro objetivo
- Agente sem supervisão: riscos e onde colocar o limite — Diagnosticar
- Agente sem supervisão direta: o que fica no lugar — Organizar um processo
- Agente rodando sem ninguém olhar: como medir — Explicar medição
- Agente que só roda com alguém olhando: o que preparar — Orientar implementação
- Contratar agente para operar sozinho: o que fica no contrato — Orientar avaliação e contratação
Outras leituras em IA aplicada e agentes
- Agente que age sem registro: o que comparar — Compara quatro formas de deixar rastro na execução de agentes, o que cada uma registra, o custo operacional e onde costuma falhar.
- Resposta de IA sem revisão: como escolher o filtro certo — Compara três formas de filtrar resposta de IA antes do envio: revisão integral, amostragem e limite por tipo de resposta. Aponta critério de escolha e limites.
- Resposta de IA aceita sem conferência: o que comparar — Compara três formas de tratar resposta de IA: conferir tudo, conferir por amostra e aceitar com critério definido, com o custo de cada escolha.
- Resposta de IA sem fonte: como localizar a origem — Descreve uma rotina de verificação para respostas de IA sem fonte citada, com critérios de rastreio, registro e decisão sobre uso.
- Processo que ninguém documentou: onde a IA trava — O que verificar em um processo não documentado antes de aplicar IA: onde o conhecimento está, quem responde e o que medir.