Recurso · Agentes
Checklist de risco de agentes de IA
Agente com acesso e autonomia pode errar em escala. Marque os controles existentes antes de colocar um agente em produção.
Poucos controles presentes. Antes de mudar ferramenta, vale tornar o processo visível.
Isto é uma lista de controles, não uma nota de maturidade. Lacuna não é causa comprovada; é onde investigar primeiro.
01
O que o checklist cobre
Os controles que impedem o agente de agir além do escopo ou de errar sem detecção.
- Escopo e permissão.
- Supervisão e autorização.
- Registro e avaliação.
- Falha e responsabilidade.
02
Como interpretar
Lacuna em permissão, supervisão ou registro é bloqueio para produção, não detalhe posterior.
- Marque o que existe.
- Trate primeiro permissão, autorização e interrupção.
- Teste com amostra e supervisão.
- Só amplie depois de estabilizar.
03
Limites
O checklist não avalia modelo, fornecedor ou arquitetura.
- Não mede qualidade técnica.
- Não substitui teste de segurança.
- Não garante que o agente é adequado.
Perguntas frequentes
Antes de decidir
Não é recomendável. Sem registro não há auditoria, correção nem responsabilidade demonstrável.
Uma pessoa ou papel definido, com limite e registro. A aprovação não pode ser implícita.
Não. O checklist é local.