Resposta direta
O risco depende do que o agente pode fazer, não de ele existir. Classifique cada ação por reversibilidade e consequência: sugerir texto é reversível e barato; alterar cadastro é reversível com custo; enviar comunicação ao cliente é irreversível; movimentar valor exige aprovação explícita. Defina o nível de autonomia por ação, não por agente. A pergunta que decide é: se isso der errado, dá para desfazer sem afetar terceiros?
- Objetivo
- Diagnosticar
- Formato indicado
- Workshop executivo
- Atualizado em
O que esta página acrescenta: Classifica autonomia por ação e por reversibilidade, em vez de discutir 'supervisão' de forma genérica.
Por que a discussão costuma errar o alvo
O debate tende a ser sobre a tecnologia — se o modelo erra, se é confiável — quando o problema real é o escopo da ação. Um modelo imperfeito que apenas sugere texto é inofensivo; um modelo excelente com permissão de enviar e-mail é risco.
Por isso a decisão precisa ser por ação. O mesmo agente pode ter autonomia total para rascunhar e nenhuma para enviar.
Como definir o limite na prática
Para cada ação, responda: dá para desfazer? afeta alguém fora da empresa? existe prazo? As três respostas definem o nível.
Ações irreversíveis precisam de aprovação explícita e de registro de quem aprovou. Aprovação implícita — 'ninguém reclamou' — não é controle.
Limites e o que não afirmar
Não existe configuração que elimine risco. O objetivo é tornar o risco conhecido e proporcional ao benefício.
E não afirme conformidade com norma específica por ter adotado uma prática de controle. Controle interno e conformidade formal são coisas diferentes.
Recurso prático
Níveis de autonomia por ação
| Tipo de ação | Reversível? | Afeta terceiros? | Autonomia indicada |
|---|---|---|---|
| Sugerir texto interno | sim | não | total |
| Preencher campo de cadastro | sim, com custo | não | total com registro |
| Alterar dado compartilhado | sim, com custo | indireto | com revisão |
| Enviar mensagem ao cliente | não | sim | aprovação explícita |
| Movimentar valor ou contrato | não | sim | aprovação explícita |
Reclassifique periodicamente: uma ação que era interna pode passar a afetar terceiros sem aviso.
Sobre o que está escrito aqui
Conceitos relacionados: autonomia · reversibilidade · aprovação humana · consequência externa. Exemplos são ilustrativos. Não há cliente, resultado, preço, prazo ou certificação nesta página. Quando o formato indicado é Workshop executivo, ele descreve uma possibilidade de trabalho — a conversa inicial avalia contexto e aderência.
Para continuar
- IA aplicada e agentes — Página central do tema
- Ações sem aprovação — Onde frear
- Governança e controle — Página central do tema
Páginas relacionadas
O mesmo problema em outro objetivo
- Agente sem supervisão direta: o que fica no lugar — Organizar um processo
- Agente sem supervisão: comparar alternativas de controle — Comparar alternativas
- Agente rodando sem ninguém olhar: como medir — Explicar medição
- Agente que só roda com alguém olhando: o que preparar — Orientar implementação
- Contratar agente para operar sozinho: o que fica no contrato — Orientar avaliação e contratação
Outras leituras em IA aplicada e agentes
- Atendimento com IA: o que pode ir para o cliente e o que não pode — Divisão por tipo de resposta — informativa, transacional e sensível — com o critério de reversibilidade e a regra de identificação.
- Agente com permissão ampla: comparar alternativas — Compara quatro formas de reduzir o escopo de um agente já em uso, com o que cada uma exige em processo, dado e responsabilidade.
- Automação sem revisão: onde o erro passa em silêncio — Roteiro para checar uma proposta de automação total e identificar quais decisões ficam sem revisão, sem dono e sem registro de divergência.
- Classes conflitantes entre áreas: critério, dono e revisão — A página trata do critério escrito, do responsável pela decisão no empate e da rotina de revisão na classificação, com os limites dessa padronização.
- Custo de IA sem manual: o que medir por entrega aceita — Medidas para acompanhar o custo de IA por entrega aceita quando não há processo manual equivalente como base de comparação.