Terceirização do discernimento: o erro de IA que não aparece na tela

Bem-vindo à primeira edição da Sabedoria Aumentada. A promessa é simples: uma ideia por semana sobre decidir bem na era da IA, escrita por quem constrói essas ferramentas todos os dias. Sem hype, sem pânico, sem lista de 47 prompts. Começo pela ideia que deu origem a este projeto inteiro.

A ideia da semana: terceirização do discernimento

O maior erro de quem usa IA não aparece na tela. Não é prompt ruim, não é escolher a ferramenta errada. É aceitar respostas que você não consegue explicar por que estão certas. Dou a isso o nome de terceirização do discernimento.

Repare no detalhe: eu não disse "aceitar respostas erradas". A resposta pode até estar certa. O problema é o que você deixou de fazer no caminho, que é o exercício de julgar. O perigo real nunca foi a IA errar; isso todo mundo sabe, está no rodapé de toda ferramenta. O perigo real é você perder, aos poucos, a capacidade de perceber quando ela erra. O erro da máquina é visível. A atrofia do seu julgamento não é.

Se quiser sentir isso na pele, faça um teste de dez segundos. Peça ao seu modelo preferido uma recomendação sobre algo que importa no seu trabalho. Quando vier a resposta firme e bem estruturada, escreva na mesma conversa: "agora me convença do oposto". Ele vai defender o contrário com a mesma confiança, argumentos igualmente bons, o mesmo tom de consultor sênior. Isso não é defeito escondido, é o funcionamento normal da tecnologia: um modelo de linguagem otimiza para plausibilidade, não para verdade. A confiança do texto é uma propriedade do texto, não da realidade.

Cada resposta aceita sem compreensão é um empréstimo tomado contra o seu próprio julgamento. Chamo isso de dívida de competência. E ela tem uma característica cruel: não cobra juros no dia tranquilo. Cobra na crise, na reunião decisiva, no incidente com cliente olhando. Sempre na pior hora.

O princípio permanente

Esse problema parece coisa da era dos modelos de linguagem, mas a literatura de sabedoria já descrevia o antídoto há uns três mil anos: a primeira parte a apresentar a sua causa sempre parece ter razão, até que alguém a questione.

Uma versão única e bem contada sempre parece verdadeira. Isso valia no tribunal antigo e vale no chat de hoje. O antídoto nunca foi desconfiar de tudo, nem confiar em tudo: é garantir o contraditório antes da decisão. Três mil anos depois, construímos uma máquina que produz a "primeira causa" mais convincente da história, em segundos, sobre qualquer assunto. A necessidade de um segundo argumento nunca foi tão grande.

O caso real

Eu paguei essa fatura do meu bolso. Uma sexta-feira, quase seis da tarde, cansaço acumulado, e um bug pequeno para corrigir num sistema financeiro. Abri o assistente de código, selecionei um método e pedi: refatore, deixe mais limpo. A resposta veio em segundos. Código menor, mais elegante. Comparei por alto, rodei testes manuais, tudo funcionando. Commit. Deploy.

Quinze minutos depois, o telefone começou a tocar. Clientes sem conseguir acessar o sistema.

Levei horas para achar a causa. Na refatoração, a IA removeu uma validação que parecia redundante. Aquele if estava no código havia quase dez anos e tratava um comportamento específico de um banco legado que ainda atendia cerca de 8% dos clientes da empresa. A IA não conhecia esse contexto; ela só viu um trecho que parecia desnecessário. A parte que dói: eu também não conhecia. Em dez anos, ninguém ali tinha perguntado por que aquele if existia. Uma linha removida, horas de indisponibilidade.

O modelo não me enganou; ele fez o trabalho dele com o trecho que recebeu. Quem falhou fui eu, o único na cadeia que podia fazer a pergunta.

Desde então, três práticas viraram regra nos meus projetos. A regra do porquê: só aceito o que consigo explicar em uma frase; se não consigo, investigo ou trato como palpite. O argumento contrário: nenhuma recomendação relevante passa sem eu pedir a acusação junto com a defesa. E, em decisão com consequência real, o meu rascunho vem antes da opinião da IA, porque a primeira opinião que você lê ancora todas as seguintes.

Uma reflexão para levar

O mercado mede tudo o que a IA produz por você: velocidade, volume, entregas. Ninguém mede o que você deixa de exercitar, e o dono do julgamento é sempre o último a notar que ele enferrujou. Então proponho uma métrica pessoal, que eu mesmo adotei: uma auditoria por semana. Escolha uma única decisão que você tomou com ajuda de IA nos últimos dias e tente reconstruir o raciocínio sem abrir a ferramenta, em cinco linhas, como se explicasse a alguém da sua equipe. Se conseguir, a decisão era sua. Se não conseguir, você acabou de encontrar o indicador antecedente da dívida de competência, antes de a fatura chegar. Nenhum dashboard vai medir isso por você. E talvez seja a métrica mais importante da sua carreira nos próximos anos.

Use a IA para pensar mais, não para pensar menos.

Antes de ir

Me conta uma coisa: qual foi a última decisão em que você aceitou uma resposta de IA sem conseguir explicar por que ela estava certa? Assine a newsletter e responda qualquer edição por e-mail; eu leio todas as respostas.

Até a próxima quinta.