Resposta direta
A decisão começa pelo que o agente pode fazer de errado, não pelo que ele já faz de certo. Restringir permissão tem quatro caminhos usuais: reduzir o escopo de acesso, dividir o agente em papéis menores, exigir aprovação humana antes de ações sensíveis e trocar a execução automática por sugestão. Eles não são equivalentes. Os dois primeiros mudam o desenho técnico e o cadastro de acessos. Os dois últimos mudam o fluxo de trabalho e a fila de quem aprova. A escolha depende de qual desses custos a operação consegue sustentar semana após semana.
- Objetivo
- Comparar alternativas
- Formato indicado
- Workshop executivo
- Atualizado em
O que esta página acrescenta: Coloca as formas de restringir permissão lado a lado pelo custo operacional que cada uma cria, e não pela promessa de segurança.
O que a comparação precisa colocar na mesma conta
Comparar alternativas de permissão exige dois custos na mesma conta: o custo de mudar e o custo de não mudar. O custo de mudar é conhecido, feito de revisão de acessos, reescrita de fluxos e treino de quem aprova. O custo de não mudar é medido pelo pior caso aceitável, ou seja, o que o agente faria se usasse todo o acesso de que dispõe.
A pergunta prática é qual dano a operação tolera sem correção manual. Um agente que apenas lê erra de forma reversível. Um agente que escreve, apaga, paga ou assina erra de forma que alguém precisa desfazer depois. A mesma permissão ampla pesa diferente nos dois casos, e é isso que separa as alternativas.
Quem responde pela permissão depois da mudança
Toda alternativa empurra a responsabilidade para algum posto. Reduzir escopo concentra a responsabilidade em quem administra os acessos. Aprovação humana concentra em quem aprova, e essa pessoa precisa de critério escrito para recusar sem depender de improviso.
Sem responsável nomeado, a restrição perde efeito. O acesso amplo volta como exceção temporária, e exceção sem prazo e sem dono se torna permanente. A comparação entre alternativas deveria incluir quem revisa a lista e em que momento: saída de pessoa, troca de sistema, mudança de processo.
O que restringir permissão não resolve
Reduzir permissão não corrige dado ruim. Um agente com acesso estreito a uma base desatualizada continua produzindo erro com aparência de resposta correta. O limite de acesso não substitui a verificação do dado de origem.
Também não cobre o que acontece dentro do escopo permitido. Instrução maliciosa embutida em documento que o agente pode ler segue como risco mesmo com acesso reduzido. A restrição diminui a área de dano. Não elimina decisão errada no que ficou permitido, e não dispensa o registro do que foi executado: sem log, não há como comparar as alternativas com o que de fato ocorreu.
Recurso prático
Quatro formas de restringir permissão e o que cada uma cobra
| Alternativa | O que exige na operação | Onde costuma falhar |
|---|---|---|
| Reduzir o escopo de acesso do mesmo agente | Revisar a lista de acessos e testar cada fluxo que dependia do acesso removido | Fluxos secundários que ninguém lembrava que usavam o acesso amplo |
| Dividir em agentes por papel | Definir o que cada papel pode ver e manter a lista de papéis atualizada | Papéis que se multiplicam e voltam a somar o acesso antigo |
| Aprovação humana antes de ação sensível | Fila de aprovação com responsável nomeado e critério escrito de recusa | Fila sem dono, que aprova sem ler para não travar o processo |
| Trocar execução por sugestão | Alguém executa manualmente e registra o que aceitou ou recusou | Sugestão vira execução automática sem que o limite seja revisto |
O erro mais comum é restringir o acesso e não revisar os fluxos que dependiam dele; a permissão ampla reaparece como exceção informal, sem prazo e sem dono.
Sobre o que está escrito aqui
Conceitos relacionados: escopo de permissão · princípio do menor privilégio · registro de auditoria · aprovação humana · papéis de acesso. Exemplos são ilustrativos. Não há cliente, resultado, preço, prazo ou certificação nesta página. Quando o formato indicado é Workshop executivo, ele descreve uma possibilidade de trabalho — a conversa inicial avalia contexto e aderência.
Para continuar
- IA aplicada e agentes — Página central do tema
- Tarefa de julgamento na automação: o que exig… — tarefa de julgamento entregue à automação
- Revisão humana que come o ganho da IA: o que… — volume de revisão humana maior que o ganho
Páginas relacionadas
O mesmo problema em outro objetivo
- Agente com acesso demais: o que revisar na permissão — Diagnosticar
- Agente com permissão ampla demais: revisar escopo e acesso — Organizar um processo
- Permissão ampla demais: o que medir antes de restringir — Explicar medição
- Permissão ampla demais: como reduzir o escopo do agente — Orientar implementação
- Permissão ampla em agente: o que avaliar antes de assinar — Orientar avaliação e contratação
Outras leituras em IA aplicada e agentes
- Agente sem supervisão: riscos e onde colocar o limite — Escala de autonomia em quatro níveis, o que pode ir a cada nível e a pergunta que define o limite.
- Contratar agente para operar sozinho: o que fica no contrato — Envelope de autonomia no contrato: o que o agente executa sozinho, o que pede aprovação, o que é proibido e quem responde pelo erro.
- Dado de cliente sem finalidade declarada: o que exigir — Descreve o que a proposta de IA precisa declarar sobre uso de dado de cliente, o que verificar por escrito e o que contrato não resolve.
- Registro de finalidade em IA: o que cada opção resolve — Compara quatro formas de registrar a finalidade de cada uso de IA: o que cada uma exige da operação, o que conserva e o que deixa em aberto.
- Resultado de IA sem origem: o que comparar antes de usar — Compara formas de lidar com resultado de IA sem registro de origem e mostra o custo de conferência, o risco e a responsabilidade que cada uma cria.