Human-in-the-loop não é controle se a pessoa não consegue contestar a IA. O estudo da IBM mostra a lacuna

Quase todo diagrama de arquitetura de IA enterprise tem uma caixa escrita “revisão humana”. Muitas vezes é o principal controle da etapa mais arriscada. E quase nunca é desenhada: ninguém define quem é a pessoa, o que ela vê, quanto tempo tem, se pode dizer não, nem como alguém vai perceber se ela parou de olhar de verdade.

Dados novos da IBM sugerem que essa caixa é mais frágil do que parece.

O que a IBM encontrou

O estudo de 2026 do IBM Institute for Business Value com CHROs ouviu 1.500 CHROs e executivos seniores e 8.800 funcionários, em 21 países e regiões e 23 setores, entre abril e junho de 2026. Segundo a IBM:

• 71% dos executivos priorizam a capacidade de supervisionar, validar ou anular o que a IA produz, contra 38% dos funcionários. A IBM chama essa de a maior divergência entre os dois grupos.
• Só 26% das organizações definem com clareza o que é trabalho liderado por pessoas, assistido por IA ou executado pela IA.
• 36% dos executivos dizem que a falta de clareza sobre responsabilidades complica a implantação de IA.
• A erosão de competências é preocupação central para 46% dos executivos, e 60% dos funcionários dizem que ela os afeta diretamente.

A divulgação canadense da IBM, em 2 de outubro, reforçou o ponto: 68% dos CHROs do Canadá apontam a capacidade de supervisionar, validar e anular a IA como a competência mais essencial, enquanto só 29% dos funcionários canadenses consideram o julgamento importante. Todos os números são da IBM, e o estudo não traz um recorte brasileiro.

A recomendação da própria IBM é direta: o redesenho do trabalho precisa deixar explícitos, dentro do fluxo, o dono, a validação, o tratamento de exceções, o escalonamento e a anulação.

Por que a lacuna importa para a arquitetura

Quando o executivo pensa “uma pessoa confere” e quem confere não vê a avaliação como parte do seu trabalho, a revisão vira carimbo. Isso não é detalhe de treinamento. É uma falha de controle que não aparece em teste nenhum, porque o processo parece igual tanto se o revisor lê com atenção quanto se só clica em aprovar.

Três coisas pioram o quadro com IA:

• Plausibilidade. A resposta da IA soa bem mesmo quando está errada. Achar o erro exige julgamento do domínio, não revisão de texto.
• Volume. Agentes produzem mais itens para revisar do que as pessoas produziam. O tempo por item encolhe.
• Perda de prática. Quem deixa de fazer o trabalho de base perde, aos poucos, a capacidade de julgá-lo, que é a erosão que 60% dos funcionários disseram sentir.

O que uma revisão de verdade precisa ter

1. Autoridade para rejeitar
2. Evidência à vista, não só a resposta
3. Tempo previsto por item
4. Competência mantida em dia
5. Qualidade da revisão medida

PessoaDesenho da etapa

Autoridade. O revisor precisa poder rejeitar, e rejeitar não pode ser punido por metas que premiam volume. Se anular a IA significa não bater a meta, ninguém anula.

Evidência. Mostre as fontes, os registros consultados e o raciocínio, não só a conclusão. Quem vê apenas a resposta só consegue julgar se ela parece certa.

Tempo. Preveja o tempo de revisão por item no desenho do processo. Se o agente produz 400 itens por dia e uma pessoa tem duas horas, a revisão é ficção.

Competência. Mantenha os revisores fazendo parte do trabalho de base, para preservar o julgamento, e treine-os nos jeitos específicos como a IA erra.

Medição. Acompanhe taxas de anulação e de edição e os erros encontrados por amostragem independente. Uma taxa de anulação perto de zero por meses não prova uma IA perfeita; pode provar um revisor ausente. É também a evidência de que depende a escada de autonomia: aprovação só conta como evidência se for real.

O padrão aparece em tudo o que cobrimos. No SOC agêntico, os analistas mantêm a autoridade porque foram treinados a desconfiar do que não conseguem verificar. Quando um agente continua agindo depois que o dono sai, como no Copilot Autopilot, não há revisor nenhum.

A lei não vai desenhar isso por você

Há um detalhe da LGPD que pouca gente lembra. O texto original do artigo 20 dizia que a revisão de decisões automatizadas seria feita por pessoa natural. Essa exigência saiu na Lei nº 13.853, de 2019, e o veto foi mantido pelo Congresso. Ou seja: o titular tem direito de pedir a revisão de uma decisão automatizada que afete seus interesses, mas a lei não obriga que um ser humano a faça. Se a empresa decide colocar uma pessoa no loop, a qualidade dessa revisão é escolha e responsabilidade dela. Com o marco legal de IA ainda em discussão no Congresso, desenhar bem a etapa de revisão sai mais barato do que explicar depois, à ANPD ou ao Procon, por que ela era só um carimbo.

O que fazer agora

1. Faça o inventário de toda etapa de “revisão humana” nos workflows de IA em produção e dê nome à pessoa ou ao papel por trás de cada uma.
2. Classifique cada etapa como liderada por pessoas, assistida por IA ou executada pela IA, a distinção que só 26% das organizações fazem com clareza, segundo a IBM.
3. Dê ao revisor a evidência e o tempo, e escreva os dois no processo, não só no diagrama.
4. Meça as taxas de anulação e de edição e faça amostragem independente para checar se a revisão é real.
5. Proteja a competência: faça os revisores passarem pelo trabalho de base e treine-os nos modos de falha conhecidos.

Para fechar

Human-in-the-loop é desenho, não rótulo. Os dados da IBM sugerem que muitas organizações se apoiam num controle que as pessoas que o executam não reconhecem plenamente como parte do seu trabalho. Corrigir isso é barato perto do que ele protege: dê à pessoa autoridade, evidência, tempo e competência, e meça se ela usa.