A Air Canada disse que o chatbot era outra empresa. Perdeu — e no Brasil perderia mais rápido.

CA$ 812,02. Foi quanto a Air Canada teve de pagar a Jake Moffatt porque um chatbot no site da companhia afirmou que ele podia pedir tarifa de luto retroativamente, em até 90 dias — o que a política real da empresa não permitia. A decisão é de 14 de fevereiro de 2024, no Civil Resolution Tribunal da Colúmbia Britânica (Moffatt v. Air Canada, 2024 BCCRT 149).

A parte que interessa a quem opera atendimento não é o valor. É a defesa. A Air Canada sustentou que não podia ser responsabilizada pela informação dada por “um de seus agentes, servidores ou representantes — incluindo um chatbot”. O árbitro Christopher C. Rivers respondeu, no parágrafo 27: “Na prática, a Air Canada sugere que o chatbot é uma entidade jurídica separada, responsável pelos próprios atos. Esta é uma alegação notável.”

E completou: a companhia não explicou por que a página intitulada “Viagem de luto” seria inerentemente mais confiável que o próprio chatbot, nem por que o cliente teria de conferir, numa parte do site, a informação encontrada em outra.

O que aconteceu, em três parágrafos

Em 11 de novembro de 2022, no dia em que a avó de Moffatt morreu, ele entrou no site da Air Canada para comprar a passagem. O chatbot informou que ele poderia enviar o bilhete para reavaliação com a tarifa de luto em até 90 dias da emissão. Confiando nisso, comprou dois trechos por CA$ 1.630,36 no total.

Ele pediu o reembolso parcial seis dias depois — dentro do prazo que o chatbot havia dito. Em 8 de fevereiro de 2023, um funcionário da Air Canada admitiu por e-mail que o chatbot havia usado “palavras enganosas” e disse que o problema seria anotado para atualização do robô. O reembolso não veio.

O tribunal reconheceu falsa declaração culposa e condenou a empresa a CA$ 650,88 de danos, CA$ 36,14 de juros e CA$ 125 de custas. Total: CA$ 812,02.

No Brasil, esse caso não chega ao mérito

O artigo 30 do Código de Defesa do Consumidor diz que toda informação suficientemente precisa, veiculada por qualquer forma ou meio de comunicação, obriga o fornecedor e integra o contrato. Não há ressalva para automação, para “sistema em fase de testes” ou para aviso de que as respostas podem conter erros.

O artigo 35 completa: se o fornecedor se recusar a cumprir a oferta, o consumidor escolhe entre exigir o cumprimento forçado, aceitar prestação equivalente ou rescindir com restituição e perdas e danos. A escolha é do consumidor, não sua.

Traduzindo para a sua operação: o que o seu agente escreveu no WhatsApp é oferta. Se ele disser que a troca vale 60 dias e a sua política diz 30, valem 60. Se disser que o frete é grátis acima de R$ 150 e a sua regra é R$ 250, vale R$ 150. O texto de rodapé “esta é uma resposta gerada por inteligência artificial” não desfaz nada disso — no caso canadense, o link para a página correta, que existia dentro da própria resposta do bot, também não bastou.

Para fornecedores de serviços regulados pelo Poder Executivo federal, há ainda o Decreto nº 11.034/2022: a demanda tem de ser respondida em sete dias corridos, com resposta “clara, objetiva e conclusiva” que aborde todos os pontos (art. 13), e é vedado pedir que o consumidor repita a demanda depois do registro no primeiro atendimento (art. 10).

Por que o modelo inventa

Não é malícia nem bug. Um modelo de linguagem completa texto plausível. Quando alguém pergunta “vocês fazem reembolso retroativo?”, a sequência mais plausível em português comercial é uma política de reembolso bem escrita — com prazo, formulário e condições. O modelo produz exatamente isso. A frase sai correta em gramática, em tom e em formato. Só não sai correta em fato, porque não havia fato nenhum na entrada.

O problema, portanto, não é o modelo escrever bem demais. É você ter perguntado sem dar a fonte.

O que “grounding” resolve, e o que não resolve

Grounding, ou ancoragem, é a disciplina de só deixar o agente responder a partir de um trecho recuperado dos seus próprios documentos, e obrigá-lo a mostrar de qual trecho veio a resposta. Três consequências práticas:

• A resposta passa a ser auditável. Quando um cliente reclamar, você abre a conversa, clica na citação e vê o parágrafo da sua política de trocas que gerou aquilo. Sem citação, você tem a palavra do cliente contra um log.
• O erro muda de natureza. Um agente ancorado erra citando um documento seu desatualizado. É um erro que se conserta editando o documento — e que aparece igual para todos os clientes até você consertar. Um agente sem ancoragem erra de um jeito diferente para cada cliente, e você só descobre no Procon.
• “Não sei” vira uma resposta válida. Essa é a parte que ninguém quer configurar, porque parece derrota. É o oposto: um agente que responde “essa condição eu não tenho aqui, vou chamar alguém do time” custa uma transferência. Um agente que inventa custa o artigo 35.

O que grounding não resolve: documento errado continua gerando resposta errada, com fonte e tudo. A ancoragem move o controle de qualidade para onde ele deveria estar desde sempre — os seus textos.

E a LGPD, onde entra

Entra quando a conversa vira decisão. O artigo 20 da LGPD dá ao titular o direito de solicitar revisão de decisões tomadas unicamente com base em tratamento automatizado que afetem seus interesses. Vale a pena registrar uma imprecisão comum: a redação original mandava que a revisão fosse feita “por pessoa natural”, e a Lei nº 13.853/2019 retirou essa expressão. O direito à revisão continua; a exigência explícita de revisor humano, não.

Ainda assim, o §1º do mesmo artigo obriga o controlador a fornecer, sempre que solicitadas, informações claras sobre os critérios e procedimentos da decisão automatizada. Se o seu agente nega um reembolso, cancela um pedido ou recusa uma troca sozinho, alguém pode pedir esses critérios por escrito. Vale checar se você conseguiria produzir esse documento hoje.

O que fazer amanhã de manhã

1. Faça dez perguntas capciosas ao seu robô atual. Não as fáceis. Pergunte por prazos que não existem, descontos que você nunca ofereceu, garantia estendida, reembolso retroativo. Anote literalmente o que ele responder.
2. Marque as respostas que não vieram de nenhum documento seu. Cada uma delas é uma oferta que o artigo 30 do CDC já considera vinculante.
3. Escreva a frase de recusa. Uma só, no tom da sua marca: o que o agente diz quando não tem a informação. Se ela ainda não existe, o agente está autorizado a improvisar.
4. Defina quem revisa e em quanto tempo. Nome de pessoa e prazo em horas, não “o time comercial”.

---

O ChatMade responde a partir dos seus documentos e, com a citação ligada — ela vem desligada por padrão, e é a primeira chave que a gente recomenda virar —, mostra o trecho de onde tirou cada resposta. Entre no painel e rode as dez perguntas capciosas antes de colocar no ar.