Por que agentes de IA não devem usar contas de pessoas

Quando um agente de inteligência artificial recebe o login de um funcionário para automatizar tarefas, a empresa perde a capacidade de auditar suas operações. O ganho imediato de velocidade custa a eliminação da fronteira entre o que foi decidido por uma pessoa e o que foi executado por um modelo probabilístico. Produtividade sem rastreabilidade não é eficiência, é passivo oculto.

A conta emprestada e o colapso da auditoria

Considere uma área de compras com alto volume de notas e cadastros. Para economizar tempo, a equipe conecta um agente ao e-mail corporativo e ao ERP utilizando a credencial de um comprador sênior. A função do agente é ler mensagens de fornecedores, extrair comprovantes e atualizar cadastros de rotina.

Uma mensagem chega solicitando a troca do domicílio bancário de um prestador de serviços. O agente interpreta o texto como legítimo e executa a alteração cadastral diretamente no sistema. No log de segurança do ERP, a transação registra o identificador do comprador, no mesmo horário em que ele participava de uma reunião interna.

Se essa alteração for uma fraude externa ou um erro de processamento, a empresa não consegue separar tecnicamente três eventos distintos: a entrada da informação, a interpretação do agente e a anuência do funcionário. Para o sistema e para a auditoria contábil, o funcionário cometeu a ação. Se a equipe de segurança decidir interromper o agente preventivamente, terá de bloquear a conta do próprio profissional, paralisando suas atividades operacionais.

Controles de sistema versus instruções de contexto

O erro comum nessa transição é tratar restrições no prompt de comando como controles de segurança da informação. Escrever para o modelo "nunca altere dados bancários" não equivale a negar a permissão técnica de escrita na tabela de fornecedores. Se a credencial usada tiver permissão para gravar no banco de dados, o risco permanece ativo. Um erro de interpretação ou uma manipulação no texto da mensagem recebida pode ignorar a instrução.

Além disso, desenhar fluxos com aprovações humanas genéricas cria fadiga de consentimento. Quando um profissional recebe dezenas de solicitações automáticas de confirmação por hora, a análise crítica desaparece. O clique na confirmação vira mecânico e a responsabilidade jurídica recai sobre o operador, mascarando a ausência de governança no processo.

Os pilares da identidade autônoma

Agentes que consultam dados, alteram registros ou disparam transações precisam ser tratados como identidades de serviço independentes. Essa separação exige cinco parâmetros fundamentais:

Primeiro, identidade própria. Cada agente deve possuir credencial única, associada a uma conta não humana claramente identificada nos registros do sistema.

Segundo, delegação explícita. O sistema precisa registrar formalmente em nome de qual usuário ou área de negócio o agente está atuando e para qual escopo específico.

Terceiro, permissões mínimas e temporárias. O acesso deve ser limitado ao recurso estritamente necessário para a operação, com validade curta e revogação programada.

Quarto, segregação de funções. A permissão de leitura não pode carregar acesso de escrita. A capacidade de preencher um cadastro jamais deve conceder autorização para aprovação ou liberação de pagamento.

Quinto, trilha de auditoria completa. O log precisa registrar quatro dados em sequência: a intenção do fluxo, a autorização concedida, a chamada técnica da ação e o resultado obtido.

O ciclo de vida antes da autonomia

Antes de expandir a autonomia de agentes em sistemas críticos, a liderança executiva precisa exigir respostas claras para três perguntas operacionais: qual identidade o agente apresenta na API, quais ações ele está tecnicamente impedido de realizar e como uma transação será reconstruída em detalhes daqui a seis meses.

As referências técnicas para essa estruturação já estão consolidadas nas discussões do NIST sobre identidades não humanas e nas diretrizes da OWASP sobre controle de privilégios. As respostas não estão em declarações de princípios éticos, mas na configuração dos logs e na arquitetura de acesso da infraestrutura.

Agentes de software devem nascer com propósito definido, operar sob escopo monitorado e ter suspensão imediata sem afetar pessoas. Governança efetiva em inteligência artificial não começa em comitês teóricos, mas na garantia de que qualquer ação dentro do sistema corporativo seja tecnicamente limitada, atribuível e revogável.