← Blog STAREC 360º

Quando a IA erra, quem paga o pato?

Claudio Starec 7 min de leitura

Série O Medo e a Mudança · Artigo 3 · Newsletter Liderança 360

Três horas. Foi o tempo que um aparelho topo de linha ficou anunciado com 85% de desconto no site de uma empresa americana de eletrônicos. Ninguém invadiu o sistema. Um profissional de marketing usou IA para gerar e publicar os preços automaticamente, e um erro no prompt fez o resto.

Mais de 700 pedidos entraram antes que alguém percebesse. O atendimento passou semanas apagando o incêndio.

O caso foi contado pela Bloomberg em outubro. Quando li, a pergunta que me ficou não foi técnica. Foi bem brasileira: e agora, quem paga o pato?

Um erro, três donos e nenhum

A Wharton fez exatamente essa pergunta. No relatório anual de adoção de IA, produzido com a GBK Collective e publicado em outubro, mais de mil gestores americanos, de gerentes a C-level, responderam quem é o principal responsável quando um sistema de IA comete um erro relevante.

O resultado é quase um empate técnico: 28% apontaram uma equipe de governança ou de risco, 26% o gestor de quem colocou a ferramenta para rodar, 25% o próprio funcionário. Outros 9% apontaram o fornecedor, e 11% disseram que ninguém é claramente responsável ou que não sabem.

Quando um erro tem três donos quase empatados, na prática ele não tem nenhum. Jeremy Korst, coautor do estudo, contou à Bloomberg que, quando faz essa pergunta a altos executivos, a resposta mais comum é que eles ainda não tinham pensado no assunto.

O ar rarefeito do topo

Tem um dado no relatório que me fez parar. Entre gerentes e diretores, 20% não sabem dizer quem responde pelo erro. Entre vice-presidentes e cargos acima, só 3%.

Ilustração O Ar Rarefeito
O Ar Rarefeito

Costumo dizer aos líderes que mentoro que, quanto mais alto você sobe, mais rarefeito fica o ar. Mais coisas viram problema seu, e menos gente te conta a verdade. Esse número é o retrato disso. No topo, a regra parece resolvida. No meio, onde o erro aparece de fato e precisa ser consertado na segunda-feira de manhã, ninguém sabe qual é a regra.

E é no meio que a conta chega. Julia Shin e Sandra Sucher, da Harvard Business School, ouviram 18 pessoas em duas grandes consultorias e publicaram na Harvard Business Review o que encontraram: a IA acelerou quem produz, mas jogou para os gerentes a tarefa de validar o que a máquina entrega, caçar erros e treinar a equipe. Sem estrutura formal de apoio.

A Wharton confirma: em 48% dos departamentos, a IA faz o trabalho e uma pessoa aprova antes de seguir. Adivinha quem costuma ser essa pessoa.

Só que aprovar não é o mesmo que responder. No Portugal Digital Summit, que reuniu decisores em Lisboa em outubro, o advogado e ex-secretário de Estado português Adolfo Mesquita Nunes foi direto: “O human in the loop é, em grande parte, ficção. Usar IA é um ato de delegação de poder.” Quando o gerente revisa o dobro do que revisava, com a mesma agenda, a aprovação vira carimbo. Tem humano no circuito, mas falta tempo e critério para dizer não.

O erro órfão

No artigo anterior desta série, falei de uma regra que levei para todas as equipes que liderei: aceitar o erro novo, aquele de quem está tentando, e não tolerar o erro velho, o da desatenção.

A IA trouxe uma terceira categoria, e ela me preocupa mais que as outras duas. É o erro órfão. Aquele que acontece, custa caro e não tem ninguém para assinar.

O erro órfão é perigoso porque não ensina nada. Erro com dono vira aprendizado: alguém analisa, ajusta, conversa com a equipe. Erro sem dono vira só prejuízo. E depois vira medo.

Pense no funcionário que não sabe se vai pagar sozinho pelo próximo deslize da ferramenta. Ele para de experimentar. Pense no gerente que não sabe se a culpa vai cair no colo dele. Ele passa a conferir tudo, de madrugada, e vira o gargalo que ninguém planejou. Medo sem regra não protege a empresa. Paralisa a mudança.

Ilustração sobre autonomia e soberania
Autonomia não deve ser entendida como soberania

Autonomia não é soberania

Aqui cabe uma ressalva, porque a expressão “pagar o pato” engana. Ela fala de culpa, de achar quem pague depois do estrago. O que falta nas empresas não é culpado. É responsabilidade definida antes do erro.

Outra frase que repito nas mentorias é que autonomia não significa soberania. Valia para líderes e agora vale para máquinas. Dar autonomia a um agente de IA não é dar a ele soberania sobre o cliente, o preço ou a reputação da marca. Alguém precisa assinar embaixo, e esse alguém precisa saber disso antes, não descobrir depois.

No mesmo summit, uma regra circulou entre os painéis e eu assino embaixo: delegar a tarefa não é delegar a responsabilidade. O relato do evento traduz isso em três exigências para cada agente de IA: um dono com nome, um perímetro de decisão escrito e um plano para quando ele errar. Repare no último item. Ele parte do princípio de que a IA vai errar. Não é pessimismo, é maturidade.

O relato conclui que a responsabilidade é do conselho. Concordo, com uma ressalva: se a regra fica só na sala do conselho, vira mais um caso de ar rarefeito. Aqueles 20% de gerentes sem resposta mostram que ela precisa descer até quem aprova na segunda-feira de manhã.

E a saída não é cortar a camada do meio. Quem cortou no susto já está se arrependendo. Numa pesquisa da Orgvue com 1.163 executivos de oito países, 39% tinham demitido gente por causa da IA, e 55% deles admitiram que erraram na decisão.

A Amazon, que eliminou cerca de 30 mil vagas corporativas desde o fim de 2025, passou a procurar ex-funcionários, inclusive demitidos, para vagas de IA. A empresa diz que recontratar é prática antiga, e é. Mas o recado fica: o talento dispensado ontem virou disputa hoje.

Na Wharton, os departamentos com retorno forte da IA eram mais propensos a ter mudado a estrutura de gestão (64% contra 47%) e não cortaram mais gente que os outros. Redesenharam. Não enxugaram no susto.

Antes do próximo erro

Deixo as perguntas que eu faria na sua próxima reunião de diretoria.

  • Se a IA errar amanhã, quem atende o telefone?
  • Seus gerentes sabem a resposta, ou só sabem que vão passar a noite conferindo?
  • Quem na sua equipe deixou de experimentar porque não sabe quem paga a conta?

Mudar dá medo. Sempre deu. Mas o medo encolhe quando a gente sabe em que chão está pisando.

A IA pode ter autonomia. Soberania, nunca. Todo erro precisa de um responsável com nome antes de acontecer, e não de um culpado depois.

Tenha medo, mas vá mesmo assim. Avanti sempre!

E na sua empresa: quando a IA erra, quem paga o pato? Me conta nos comentários.

Fontes

Conheça os meus livros publicados