Quando a IA "alucina" e como perceber

A IA é uma ferramenta incrível, mas tem um defeito que você precisa conhecer: às vezes ela inventa. E inventa com tanta confiança que parece verdade absoluta. Saber perceber isso é uma das habilidades mais valiosas que você pode ter.

A ideia: o amigo que nunca diz "não sei"

Imagine um amigo que sabe muito sobre quase tudo. O problema é que ele tem orgulho: ele nunca admite que não sabe. Se você pergunta algo que ele desconhece, ele não fica calado — ele inventa uma resposta convincente, com detalhes e tudo, dita no mesmo tom seguro de sempre.

A IA é um pouco assim. Quando isso acontece, dá-se o nome de alucinação: a IA afirma com confiança algo que não é verdade.

Por que isso acontece

A IA não "consulta a verdade" antes de responder. No fundo, ela é uma máquina de completar texto: ela calcula qual é a próxima palavra mais provável, com base em tudo que já leu. Na maioria das vezes, o mais provável também é o correto. Mas nem sempre.

Quando ela não tem a informação real, ela preenche o buraco com algo que parece certo. Inventa um nome de função, um link, uma data, uma citação. Não é má-fé: ela não tem como saber que está errada. Ela só completou o provável.

Sinais de alerta

Você não consegue impedir a alucinação, mas consegue farejá-la. Desconfie quando aparecer:

• Detalhes específicos demais. Números exatos, datas precisas, nomes completos surgindo do nada, sem fonte. Precisão demais às vezes é invenção bem-vestida.
• Fontes que você não acha. A IA cita um livro, um artigo ou um link. Você procura e... não existe. Sinal clássico.
• Certeza exagerada num tema obscuro. Quanto mais nichado o assunto, maior a chance de a resposta confiante ser chute.
• Funções ou comandos que não funcionam. No código, ela pode inventar um comando que soa perfeito mas dá erro, porque ele simplesmente não existe.

Como se proteger

A boa notícia: dá para conviver bem com isso. Use estes hábitos.

Peça a fonte

Pergunte direto:

"De onde veio essa informação? Existe uma fonte oficial que eu possa conferir?"

Se a IA não consegue apontar nada verificável, trate a informação como "talvez".

Teste na prática

No mundo da construção (que você já conhece dos módulos anteriores), o teste é juiz. Se o Claude escreveu um código, rode. Se funciona, ótimo. Se dá erro, você descobriu na hora — sem acreditar cegamente.

Confira em outro lugar

Para fatos importantes — uma data, uma lei, uma recomendação de saúde —, busque uma segunda fonte independente. Um site oficial, um buscador, uma pessoa que entende do assunto. Nunca tome decisão séria só com a palavra da IA.

Duvide do bom demais

Se a resposta é exatamente o que você queria ouvir, perfeita e redonda demais, ligue o alerta. Às vezes a IA te diz o que agrada, não o que é verdade.

Cuidados

• Áreas de risco: saúde, dinheiro e leis. Aqui o erro custa caro. Use a IA para entender o assunto, mas confirme com um profissional ou fonte oficial antes de agir.
• Links e citações são os campeões de invenção. Sempre clique e confira antes de repassar para alguém.
• Quanto mais recente ou específico o tema, mais desconfiança. A IA pode não ter informação atualizada sobre eventos novos.

Se algo der errado

Percebeu que agiu com base numa informação falsa? Volte e corrija. Refaça o passo com a informação correta. E aproveite: avise o Claude do erro. Dizer "isso que você falou não existe, confere de novo" muitas vezes faz ele rever e se corrigir.

Lembra do hábito de revisar que vimos no #45? A alucinação é o melhor motivo para nunca abandonar essa revisão. A IA é uma colaboradora brilhante — desde que você continue sendo o revisor final. No próximo post, vamos virar a chave: usar a IA não só para fazer, mas para te ensinar.