Modelos de linguagem geram texto plausível, não necessariamente verdadeiro. Quando essa fluência encontra sua marca, o resultado pode ser uma informação errada dita com total confiança para um cliente em potencial.
Os tipos de alucinação que atingem marcas
- Fatos inventados: preços, planos ou recursos que não existem.
- Atribuição errada: um problema de um concorrente creditado a você.
- Associação indevida: sua marca ligada a uma polêmica ou categoria equivocada.
Por que monitorar é a defesa
Você não controla o que o modelo diz, mas pode detectar quando ele erra. Um programa de monitoramento sinaliza respostas com informações incorretas sobre sua marca, permitindo agir na causa: corrigir a fonte que o modelo consumiu, publicar a informação certa em veículos de autoridade e reforçar os dados corretos até que o padrão mude.
O que não é medido não pode ser corrigido — e, no caso das alucinações, o que não é corrigido vira a versão que o mercado ouve.