O ponto de aprovação num agente de IA não é definido pelo grau de confiança do modelo. É definido apenas por duas variáveis: quão reversível é a ação e quanto dano provoca se estiver errada. Uma ação irreversível com dano real — um e-mail para um cliente, um reembolso, a eliminação de um registo — exige aprovação antes da execução. Uma ação reversível a baixo custo não precisa de aprovação nenhuma, apenas de amostragem. A falha habitual não é ter aprovações a menos, mas o contrário: tê-las a mais, o que em poucas semanas as transforma num carimbo automático e lhes retira todo o valor para que foram criadas.
Três erros que se repetem em quase todas as implementações
Primeiro: aprovação em tudo. Uma organização nervosa com o agente coloca uma pessoa à frente de cada ação. O resultado é que o agente não poupa tempo nenhum e acrescenta um passo, enquanto quem aprova — e que vê dezenas de pedidos quase idênticos por dia — deixa de ler. A aprovação continua no fluxograma mas já não filtra nada.
Segundo: aprovação guiada pelo grau de confiança do modelo. Um grau de confiança mede quão plausível o resultado parece ao modelo, não quão correto é nem quanto custa se se revelar errado. Um agente pode estar extremamente confiante quanto a um endereço de e-mail que inventou. Uma variável não correlacionada com o dano não pode ser o gatilho de uma decisão sobre o dano.
Terceiro: aprovação sem autoridade. Quem aprova sem ter poder para recusar, ou para quem recusar significa trabalho extra, vai aprovar. Um ponto de aprovação sem autoridade organizacional real por trás é documentação, não controlo.
A equação que decide onde fica o ponto de aprovação
Duas variáveis, quatro células. É toda a teoria, e todas as outras decisões decorrem daí.
| Reversibilidade da ação | Dano baixo se errada | Dano elevado se errada |
|---|---|---|
| Reversível de imediato (rascunho, etiqueta interna, resumo) | Sem aprovação, amostragem semanal | Amostragem diária + registo completo |
| Reversível com um custo (atualização de registo, mudança de estado) | Aprovação a posteriori com janela de anulação | Aprovação antes da execução |
| Irreversível (e-mail ao cliente, reembolso, eliminação) | Aprovação antes da execução | Aprovação antes da execução + segundo aprovador |
Repare no que falta na tabela: o nível de confiança do modelo. Pode servir para decidir com que atenção inspecionar dentro de uma célula, nunca para mover uma ação de uma célula para outra. A classificação das próprias ações deve derivar das permissões do agente, como se detalha no guia das permissões.
Quatro padrões de aprovação e a diferença operacional entre eles
| Padrão | Como funciona | Quando encaixa |
|---|---|---|
| Aprovação bloqueante | O agente para e espera por uma pessoa antes de executar | Ações irreversíveis que envolvem terceiros ou dinheiro |
| Janela de anulação | A ação executa após um curto atraso durante o qual pode ser cancelada | Ações reversíveis a baixo custo e em grande volume |
| Amostragem | Executa tudo; uma percentagem fixa é revista depois | Ações internas em grande volume |
| Escalamento por exceção | O agente age sozinho e só para em condições predefinidas | Processos maduros com histórico de medição |
A janela de anulação é o padrão menos aproveitado e, normalmente, o mais correto. Preserva toda a velocidade no caminho normal e desloca o custo do controlo apenas para os casos em que alguém reparou mesmo num problema. Para ações canceláveis em minutos, oferece quase toda a proteção de uma aprovação bloqueante sem nenhum dos seus custos.
O verdadeiro problema: a aprovação que virou carimbo automático
O enviesamento que destrói pontos de aprovação é conhecido na literatura de investigação como enviesamento de automação — a tendência para aceitar o resultado de um sistema sem verificação e, por vezes, para abandonar um juízo humano correto em favor de uma recomendação errada. Um estudo em patologia computacional concluiu que apresentar uma recomendação incorreta aumentava a taxa de erros de comissão em cerca de 66 % em tarefas de baixa complexidade, face a um grupo que não recebia recomendação nenhuma.
A carga agrava o enviesamento. Na segurança da informação, onde os mecanismos de alerta e aprovação existem há décadas, os relatórios setoriais de 2026 descrevem cerca de 3000 alertas por dia numa organização média, dos quais cerca de 63 % nunca chegam a ser tratados e cerca de 46 % se revelam falsos positivos. É exatamente o caminho que um agente de IA com pontos de aprovação a mais cria, só que mais depressa.
A conclusão de desenho vai contra a intuição: para a aprovação funcionar são precisas menos aprovações, não mais. Cada aprovação que se acrescenta barateia o valor de todas as outras.
O que tem de aparecer no ecrã de aprovação
A quem aprova, uma pergunta de sim ou não sem contexto trará um sim. Um ecrã de aprovação que funciona mostra cinco coisas, por esta ordem.
- A ação exata. Não uma descrição genérica, mas o valor final: o endereço, o montante, o campo e o novo valor ao lado do antigo.
- A fonte. Em que registo, documento ou conversa isto se baseou, com uma ligação direta.
- O que foi ponderado e descartado. A alternativa que o agente pesou e não escolheu. É o detalhe que transforma uma aprovação automática numa verificação real.
- O custo de estar errado. Se a ação é reversível e, em caso afirmativo, em que prazo e a que custo.
- Recusa num clique, com motivo. O motivo é guardado e alimenta o conjunto de testes; caso contrário, o mesmo erro vai voltar.
O quinto ponto é a diferença entre controlo e papelada. Uma recusa que nunca regressa ao sistema é trabalho repetido vezes sem conta sobre o mesmo erro. Como levar as recusas até ao conjunto de testes está tratado no guia das avaliações.
O botão de paragem não é um extra — é um requisito
O regulamento europeu da IA define a supervisão humana no artigo 14.º como requisito estrutural para sistemas de risco elevado. O texto exige que uma pessoa possa decidir não usar o sistema, ignorar, sobrepor-se ou reverter o seu resultado, e interromper o sistema através de um mecanismo de paragem que o leve a um estado seguro.
Daqui decorrem três implicações práticas, incluindo para organizações fora do âmbito de risco elevado. Primeira, o mecanismo de paragem tem de estar implementado e não apenas documentado. Segunda, alguém tem de saber acioná-lo sem consultar ninguém. Terceira, acioná-lo tem de ser organizacionalmente aceitável — uma paragem que convida a um inquérito interno não será usada a tempo.
Um teste simples: peça a uma pessoa qualquer da equipa que pare o agente agora. Se não souber como, ou se perguntar quem é preciso avisar primeiro, não tem um botão de paragem.
Como saber se o ponto de aprovação está no sítio certo
Um ponto de aprovação é uma decisão de desenho que tem de ser medida, não presumida. Bastam três métricas.
| Métrica | O que diz | Intervalo saudável |
|---|---|---|
| Taxa de correção | Com que frequência uma pessoa alterou o que o agente propôs | Nem zero nem a maioria dos casos |
| Tempo médio de decisão | Quanto tempo quem aprova investiu de facto | O suficiente para ler a ação e a fonte |
| Taxa de escalamento | Com que frequência o agente parou por iniciativa própria | Estável ao longo do tempo |
Uma taxa de correção próxima de zero significa uma de duas coisas: ou o agente está pronto para que a aprovação seja retirada, ou a aprovação já não está a ser lida. A única forma de as distinguir é uma amostra cega — pegue em cinquenta ações aprovadas e reveja-as de raiz. Se a revisão encontrar erros que foram aprovados, o problema não é o agente.
Um percurso de adoção recomendado
- Primeiras duas semanas: o agente apenas propõe, uma pessoa executa. Recolhe-se uma taxa de correção real.
- Assim que a taxa de correção descer abaixo de uma fasquia definida à partida: passar a executar com janela de anulação, apenas em ações reversíveis.
- As ações irreversíveis mantêm-se sob aprovação bloqueante enquanto não houver pelo menos um mês de histórico de medição.
- Qualquer alteração ao prompt, às ferramentas ou à versão do modelo faz o agente recuar uma etapa até o conjunto de testes ser corrido de novo.
O enquadramento estrutural — o que corre realmente dentro do agente e onde fica o ponto de aprovação face ao ciclo de decisão — está detalhado em Anatomia de um agente de IA empresarial.
Perguntas frequentes
Onde deve ficar o ponto de aprovação humana num agente de IA?
É determinado por duas variáveis: quão reversível é a ação e quanto dano provoca se estiver errada. Ações irreversíveis com dano real exigem aprovação antes da execução; ações reversíveis a baixo custo ficam adequadamente cobertas por uma janela de anulação ou por amostragem a posteriori. O grau de confiança do modelo não é uma variável válida para definir o ponto de aprovação.
Porque é que aprovar todas as ações faz mal?
Porque cria uma carga que leva à aprovação automática. Quem aprova e vê dezenas de pedidos quase idênticos por dia deixa de os ler, e cada aprovação acrescentada barateia o valor das restantes. Menos pontos de aprovação, focados nas ações irreversíveis, filtram mais.
Qual a diferença entre aprovação bloqueante e janela de anulação?
Uma aprovação bloqueante detém o agente até uma pessoa decidir, o que serve para ações irreversíveis. Uma janela de anulação executa a ação após um curto atraso em que pode ser cancelada, preservando toda a velocidade e servindo para ações reversíveis em grande volume.
Como se sabe que o ponto de aprovação está no sítio certo?
Pela taxa de correção. Se quase ninguém corrige nada, a aprovação virou carimbo automático ou é desnecessária. Se uma parte considerável das ações é corrigida, o agente ainda não está pronto para a autonomia que lhe foi dada. O tempo médio de decisão é outro sinal: uma decisão tomada em poucos segundos não é uma verificação.
Existe uma exigência legal de supervisão humana?
Ao abrigo do regulamento europeu da IA, o artigo 14.º exige que os sistemas de risco elevado sejam passíveis de supervisão humana efetiva, incluindo a capacidade de ignorar ou reverter o resultado e de parar o sistema num estado seguro. Mesmo fora desse âmbito, é uma referência de desenho razoável para qualquer agente que opere sobre clientes ou dinheiro.
Continue a ler
Agentes de IA autoalojados: quando a infraestrutura interna se justifica – A camada de infraestrutura que torna um ponto de aprovação efetivamente exigível em vez de meramente indicativo.