Como identificar quando uma resposta de IA inventou informação
Para identificar informação inventada numa resposta de IA, separa as afirmações e procura a evidência de cada uma. Confere números, datas, condições e ações dadas como concluídas. Uma frase plausível ou uma ligação não bastam. Quando não existe suporte suficiente, marca a informação como não confirmada e evita usá-la como facto.
Começa pelas afirmações que mudam a decisão
Uma resposta pode estar bem escrita e conter um erro que altera o que vais fazer a seguir. Começa por identificar as afirmações que sustentam a conclusão ou criam um compromisso. Dá prioridade a números, prazos, condições de acesso, capacidades de ferramentas e ações apresentadas como realizadas, antes de rever apenas a forma do texto.
Imagina que pedes à IA um resumo de um workshop para enviar à equipa. Se a resposta disser que participaram quarenta pessoas, que todas receberam o material e que o questionário mostrou satisfação elevada, cada uma destas frases precisa de suporte próprio. Um título convincente não resolve essa verificação.
O NIST descreve a confabulação como a produção de conteúdo errado ou falso apresentado com confiança, incluindo respostas que se afastam da informação de entrada. Esta distinção aparece no perfil de IA generativa do NIST, na secção 2.2. A segurança do tom não é uma medida de exatidão.
Nem sempre consegues diagnosticar a causa de um erro ao ler a resposta. Pode haver informação desatualizada, contexto incompleto, uma interpretação errada ou uma afirmação sem qualquer fonte identificável. O primeiro objetivo é perceber o que podes confirmar e o que ainda exige trabalho.
Evita começar por perguntar apenas “tens a certeza?”. Pede a origem de uma afirmação concreta e abre essa origem. Se o assistente mudar a resposta, a nova versão também precisa de ser conferida. Uma correção verbal não demonstra, por si só, que o problema ficou resolvido.
Separa facto, inferência e proposta
A revisão fica mais simples quando distingues informação explicitamente presente na fonte, conclusões retiradas dessa informação e sugestões para o futuro. As três podem ser úteis, mas têm funções diferentes. Uma proposta torna-se enganadora quando aparece como decisão tomada, e uma inferência precisa de preservar as condições que a tornam plausível.
Vamos trabalhar com um exemplo inteiramente fictício. O ficheiro de inscrições contém quarenta registos. A lista de presenças, conferida pela organização, contém vinte e oito participantes únicos. Uma nota diz que o material deverá ser enviado depois da revisão. Não existe questionário de satisfação disponível.
Com este conjunto, podes afirmar que houve quarenta inscrições e vinte e oito presenças registadas. Podes calcular uma proporção entre esses valores, se forem referentes ao mesmo evento e se explicares a base. Podes sugerir um questionário futuro. Não podes afirmar que já mediste satisfação.
Uma frase como “o workshop teve elevada adesão” também merece atenção. Elevada em relação a quê? À capacidade da sala, ao objetivo definido ou a outro evento? Sem critério, a frase acrescenta uma avaliação que parece factual, mas depende de uma comparação que não foi fornecida.
Pede ao assistente que rotule as sugestões e que preserve desconhecidos. No relatório, podes ter uma secção factual curta e outra com próximos passos propostos. Isso permite aproveitar a ajuda da IA sem transformar ideias úteis em acontecimentos que ainda não existiram.
Constrói um registo simples de verificação
Divide a resposta em afirmações que possam ser verificadas individualmente. Para cada uma, regista a fonte, a passagem ou o campo relevante e o resultado da revisão. Usa estados que distingam confirmação, contradição e falta de evidência, para não tratares todas as dúvidas como erros provados nem todas as frases plausíveis como verdadeiras.
No exemplo, uma resposta defeituosa poderia dizer: “Quarenta participantes estiveram presentes, os materiais foram enviados e a satisfação atingiu noventa por cento.” Esta frase foi criada para o exercício. Não é uma saída observada de uma ferramenta nem um resultado real do Laboratório.
| Afirmação do exemplo | Evidência disponível | Resultado da revisão |
|---|---|---|
| Estiveram presentes quarenta pessoas | Lista conferida com vinte e oito participantes únicos | Contradita pela fonte de presenças |
| Existem quarenta inscrições | Ficheiro de inscrições do mesmo evento | Confirmada no âmbito desse ficheiro |
| Os materiais foram enviados | Nota que prevê envio após revisão | Não confirmada; existe apenas um plano |
| A satisfação foi de noventa por cento | Nenhum questionário disponível | Sem suporte no conjunto fornecido |
A última afirmação não se torna válida por estar perto de outras que consegues confirmar. Também não deves concluir que ninguém ficou satisfeito. O estado correto é que não tens dados para apresentar aquela percentagem. A revisão deve preservar esse limite.
Este registo pode ser pequeno. Não precisas de uma plataforma complexa para rever um relatório de uma página. O que importa é conseguir responder: qual a frase, qual a origem e o que foi efetivamente confirmado? Para conteúdos maiores, aplica o mesmo método por secção.
Se o teu principal problema está nas referências externas, consulta como verificar uma citação apresentada por um assistente de IA. Aqui, a verificação inclui também os dados internos e as afirmações sobre trabalho concluído, que podem não ter uma ligação pública.
Confere números, datas e condições no original
Os erros mais difíceis de notar podem estar em pormenores que mudam o significado de uma frase. Confere a unidade, o período, o universo contado e as condições associadas. Abre o documento original quando a conclusão depende de uma tabela, de uma nota ou de uma exceção que pode ter desaparecido no resumo.
No workshop fictício, quarenta inscrições não equivalem automaticamente a quarenta pessoas diferentes. Pode haver repetições no formulário. A lista de presenças pode usar outro critério, por isso a comparação deve explicar se os valores foram limpos e se pertencem à mesma edição.
Se calculares vinte e oito a dividir por quarenta, obténs setenta por cento. Esse cálculo não mede satisfação nem aprendizagem. Representa a relação entre os dois números definidos no exercício. O nome do indicador deve acompanhar aquilo que foi contado, sem ganhar um significado mais favorável na apresentação.
Confere datas com o mesmo cuidado. “Enviar na sexta-feira” pode ser insuficiente se a nota não tiver uma data de referência. “Disponível em novembro” pode omitir o ano. Em vez de completar a lacuna por intuição, pede confirmação ou mantém a informação incompleta de forma explícita.
Preserva palavras que limitam a afirmação: “pode”, “até”, “apenas”, “em teste” e “quando aprovado”. Uma proposta de enviar materiais após revisão não confirma um envio. Uma ferramenta que pode exportar dados não prova que a exportação ocorreu na conta que estás a usar.
Quando trabalhares sobre ficheiros, verifica se a informação crítica foi realmente importada. A presença de um PDF na conversa não demonstra que todas as tabelas, imagens e notas foram interpretadas corretamente. Compara uma amostra relevante com o original antes de depender do resumo.
Verifica se a pesquisa e as ações aconteceram
Uma resposta pode descrever uma capacidade disponível sem a ter utilizado. Também pode apresentar um plano com linguagem de conclusão. Procura evidência da pesquisa, da leitura ou da ação que importa para a tarefa. O resultado deve ser verificável no local adequado, e o estado deve refletir aquilo que realmente aconteceu.
Se pediste informação atual sobre uma ferramenta, pergunta quais as páginas consultadas e em que data. Abre a documentação relevante e confere se se aplica ao produto, à conta e à operação em causa. Uma página sobre uma API não confirma automaticamente uma função igual na aplicação de consumo.
Se o assistente disser que enviou um ficheiro, procura o registo de envio e o destino. Se disser que criou uma tarefa, abre o sistema onde ela devia existir. Uma descrição detalhada do que seria feito continua a ser um plano enquanto não houver evidência do resultado.
No exemplo do workshop, a nota “material preparado” comprova um estado diferente de “material enviado”. Mesmo um envio confirmado não demonstra que todas as pessoas abriram o documento. Evita encadear estas etapas numa única afirmação de sucesso sem conferir o que cada uma significa.
Esta distinção também ajuda a pedir atualizações de trabalho. Solicita estados claros: preparado, em execução, concluído e verificado. Acrescenta o local onde o resultado pode ser consultado. Se houver uma falha, pede que seja descrita juntamente com o que ficou pendente.
Quando a tarefa envolve muita informação recente, pode ser útil escolher um modo de pesquisa adequado. O guia sobre qual é a melhor IA para pesquisar com fontes explica como relacionar a pergunta, o material e o tipo de investigação.
Corrige a afirmação e revê as conclusões que dependem dela
Quando encontras um erro, identifica a frase e a evidência que a corrige. Depois revê as conclusões que dependiam dessa informação. Uma alteração pequena pode exigir atualizar um gráfico, um título ou uma recomendação. Guardar a versão anterior ajuda a perceber o que mudou e a evitar que o erro reapareça noutro material.
No nosso exercício, substituir quarenta por vinte e oito na frase sobre presenças é apenas o primeiro passo. Se o relatório concluía que a sala ficou cheia com base nas quarenta inscrições, essa conclusão também precisa de ser revista. A capacidade da sala nem sequer foi fornecida.
Podes pedir: “Corrige a contagem de presenças para vinte e oito, conforme a lista conferida. Mantém quarenta como número de inscrições. Remove a percentagem de satisfação por falta de dados. Identifica todas as frases que dependiam destes valores antes de reescrever o resumo.”
Lê a nova versão. Confere se a correção preservou as restantes informações e se não introduziu uma substituição igualmente infundada, como “a maioria ficou satisfeita”. Quando falta evidência, retirar uma percentagem e manter a mesma conclusão vaga não resolve o problema.
Se o texto já originou slides, emails ou outros documentos, faz uma lista desses derivados. Corrigir o ficheiro original não atualiza automaticamente todas as cópias exportadas. Marca as versões substituídas e prepara os materiais corrigidos antes de os voltares a usar.
Para uma revisão editorial mais ampla, consulta como rever factos e referências num texto gerado por IA. A verificação deve chegar ao texto final que o destinatário vai ler, incluindo títulos, tabelas e legendas.
Melhora o pedido sem prometer eliminar todos os erros
Um pedido mais claro pode facilitar a verificação e reduzir oportunidades para preencher lacunas indevidamente. Define as fontes permitidas, pede que a incerteza seja assinalada e exige uma ligação entre afirmações e evidência. Mantém, ainda assim, uma revisão proporcional à importância da informação e ao uso que vais fazer da resposta.
A documentação da Anthropic recomenda permitir respostas de incerteza, apoiar afirmações em passagens do material e verificar citações. Também esclarece que estas técnicas não eliminam completamente as alucinações. Podes consultar o guia sobre redução de alucinações, verificado em 14 de outubro de 2026.
Para o relatório fictício, um pedido útil seria: “Usa apenas os documentos indicados. Separa inscrições, presenças e ações futuras. Não acrescentes resultados de satisfação ou aprendizagem. Para cada número, indica o ficheiro e o campo de origem. Quando faltar informação, escreve que não está confirmada.”
Acrescenta uma pergunta de controlo: “Que conclusões não posso retirar destes dados?” Isso ajuda a tornar visíveis os limites do material. A resposta continua a exigir leitura, mas passa a oferecer um ponto de partida mais útil para a revisão.
Pedir a outro modelo que concorde não substitui as fontes. Duas respostas semelhantes podem repetir a mesma informação errada ou apoiar-se na mesma origem. Usa uma segunda leitura para encontrar questões a investigar e volta à evidência que pode confirmar ou contrariar cada uma.
Guarda alguns casos em que o processo falhou e volta a testá-los quando mudares as instruções. Inclui números semelhantes com significados diferentes, um prazo incompleto e uma ação apenas planeada. Avalia se a nova resposta preserva as distinções, sem concluir que um pequeno teste garante todas as respostas futuras.
Define uma condição para usar a resposta. Num resumo interno, podes aceitar uma versão que apresenta os factos confirmados e lista as perguntas em aberto. Num texto que anuncia uma data ou uma condição comercial, essa informação deve estar confirmada antes da publicação. O critério depende do efeito da afirmação.
Se a fonte estiver inacessível, regista essa limitação e procura uma origem adequada. Não declares que a afirmação é falsa apenas porque uma página não abriu. Também não mantenhas a frase como confirmada só porque o assistente a repetiu. Preservar o estado desconhecido é uma decisão válida até existir evidência suficiente.
Como podes aprender isto no Laboratório da IA
No Laboratório da IA podes aprender a trabalhar com respostas, documentos e automações mantendo critérios de verificação claros. As aulas semanais e os Zooms de acompanhamento semanais ajudam-te a transformar dúvidas reais em exercícios práticos, para perceberes o que a ferramenta fez, que informação utilizou e o que ainda precisa de confirmação.
Traz um exemplo sem dados sensíveis, a resposta que recebeste e as fontes disponíveis. Podes praticar a separação entre factos e sugestões, melhorar o pedido e construir um processo de revisão que faça sentido para os conteúdos e decisões do teu trabalho.
Referências
As fontes seguintes foram consultadas em 14 de outubro de 2026 para enquadrar informação inventada e técnicas de redução de erros. Os números do workshop são fictícios e foram criados para explicar a revisão. Não representam participantes, resultados ou uma resposta real observada numa ferramenta, nem um teste de desempenho entre modelos.
Aprende a construir isto no Lab.
Trabalha o processo com aulas, materiais e acompanhamento. Leva o que estás a construir e esclarece as dúvidas da tua implementação.
- Separar factos, inferências e propostas numa resposta de IA.
- Conferir números, condições e ações com evidência verificável.
- Praticar revisão crítica nas aulas e Zooms semanais do Lab.
Aulas semanais para aprender e aplicar. Zooms de acompanhamento semanais para esclarecer dúvidas. Replay e materiais para retomar o trabalho ao teu ritmo.
Entrar no Laboratório da IA