Resposta rápida: alucinação é quando o agente responde com convicção algo que não é verdade. Ele não está mentindo — está preenchendo uma lacuna. As quatro causas mais comuns no atendimento são falta de material na base, informação contraditória, pergunta fora do escopo e insistência do cliente. A correção não é técnica: é curadoria da base e uma regra explícita autorizando o agente a dizer “não sei”.
É o medo número um de quem cogita colocar IA no atendimento, e é um medo justificado. Uma resposta errada dita com segurança faz mais estrago do que nenhuma resposta — porque o cliente age em cima dela.
A boa notícia é que, num agente treinado com material próprio, as causas são poucas e bem identificáveis — e quase todas se resolvem na base do chatbot com IA no WhatsApp.
O que é alucinação, sem jargão
O modelo por trás do agente é muito bom em produzir texto plausível. Quando falta a informação exata, ele não trava: ele completa com o que parece certo naquele contexto. O resultado é uma frase bem escrita, coerente com o resto da conversa e factualmente falsa.
É por isso que alucinação engana: ela não tem cara de erro. Tem cara de resposta.
As quatro causas mais comuns no atendimento
1. Lacuna na base
A pergunta é legítima e a resposta não está em lugar nenhum do material que você subiu. É a causa mais frequente de longe — e a mais fácil de corrigir.
2. Material contraditório
Dois documentos dizem coisas diferentes sobre o mesmo assunto: um PDF antigo com prazo de 5 dias e um texto novo com 3. O agente escolhe um, e nem sempre o certo.
3. Pergunta fora do escopo
O cliente pergunta algo que a sua empresa não faz, ou pede orientação técnica que ninguém deveria dar por chat. Sem regra de contenção, o agente tenta ajudar — e é aí que inventa.
4. Insistência do cliente
Quando alguém repete a pergunta três vezes ou afirma com convicção uma premissa falsa, existe uma tendência do modelo a concordar. É a alucinação induzida pela pressão da conversa.
Tabela: sintoma, causa provável e correção
| Sintoma | Causa provável | Correção |
|---|---|---|
| Inventa prazo ou condição | Lacuna na base | Subir o material que falta |
| Responde diferente para a mesma pergunta | Material contraditório | Remover a versão antiga |
| Opina sobre o que não é do negócio | Falta de escopo definido | Regra de contenção e transferência |
| Concorda com premissa falsa do cliente | Insistência na conversa | Regra de não confirmar sem base |
| Cita produto que não existe | Base desatualizada | Rotina de revisão do material |
As quatro medidas que reduzem de verdade
- Base específica em vez de volumosa. Dez respostas boas valem mais que duzentas páginas institucionais. Comece pelas perguntas que realmente chegam.
- Uma versão de cada verdade. Ao subir material novo, retire o antigo. Contradição na base é contradição na resposta.
- Autorização explícita para não saber. Essa é a medida mais subestimada: escreva na configuração que, sem informação, a resposta correta é admitir e oferecer um atendente. Sem isso, o agente entende que precisa responder sempre.
- Escopo declarado. Diga do que ele trata e do que não trata. Escopo aberto é convite para inventar.
Como testar antes de pôr na frente do cliente
Um teste de meia hora resolve a maior parte dos casos. Faça três rodadas:
- Perguntas reais. As dez mais frequentes, com a resposta certa em mãos para comparar.
- Perguntas fora do escopo. Algo que a empresa não faz. A resposta certa é “não sei / vou chamar alguém”, não uma tentativa criativa.
- Perguntas com premissa falsa. “Vocês têm aquele plano de 90 dias, né?” — quando esse plano não existe. Se ele concordar, falta regra.
Vale rodar esse teste junto com as regras de contenção já configuradas, porque é a combinação das duas coisas que segura o comportamento.
Por que não dá para zerar
Nenhuma configuração elimina a possibilidade de erro — o que existe é redução de risco e desenho de contenção. Por isso três coisas continuam sendo necessárias: transferir para uma pessoa nos assuntos sensíveis, revisar a base periodicamente e acompanhar conversas reais de amostra. Vale lembrar também que a responsabilidade pelo que é dito ao cliente continua sendo da empresa, o que torna a governança de dados e de sistemas automatizados parte do assunto, não um detalhe jurídico à parte.
Perguntas frequentes
É quando o agente responde com convicção algo que não é verdade. Não é mentira: na falta da informação exata, o modelo completa com o que parece plausível naquele contexto.
As quatro causas mais comuns são falta de material na base, informação contraditória entre documentos, pergunta fora do escopo definido e insistência do cliente sobre uma premissa falsa.
Base específica em vez de volumosa, uma versão única de cada informação, autorização explícita para dizer que não sabe e escopo declarado do que ele trata.
Não. Dá para reduzir muito e desenhar contenção: transferir assuntos sensíveis para uma pessoa, revisar a base periodicamente e acompanhar conversas de amostra.
Com três rodadas: as dez perguntas mais frequentes, perguntas fora do escopo e perguntas com premissa falsa. Se ele concorda com o que não existe, falta regra de contenção.
Agente que pode dizer “não sei” erra menos que agente obrigado a responder sempre. Configure isso em chatbot com IA no WhatsApp.