Governança de IA: o que definir antes de colocar um agente em produção

Delimite o escopo por escrito

O primeiro controle é também o mais simples: registrar o que o agente pode e não pode fazer. Não como intenção genérica, mas como lista concreta de assuntos permitidos, assuntos proibidos e situações de transferência obrigatória.

Esse documento vira a base tanto da configuração técnica quanto dos testes. Sem ele, não há critério objetivo para dizer se o comportamento observado está certo ou errado.

Trate dados pessoais com os mesmos critérios do resto da empresa

Um agente de atendimento vai processar nome, telefone, e frequentemente informações financeiras como faixa de renda ou intenção de financiamento. A LGPD se aplica integralmente a esse tratamento.

Na prática, isso significa decidir explicitamente alguns pontos antes de ligar o sistema:

• Qual a base legal para o tratamento e como ela é comunicada ao titular.
• Quais dados são efetivamente enviados a provedores de modelo e por quanto tempo ficam retidos.
• Por quanto tempo a empresa guarda os históricos de conversa e com qual finalidade.
• Quem, internamente, tem acesso a esses registros.
• Como um pedido de exclusão do titular é atendido na prática.

Mantenha revisão humana onde a decisão tem peso

Nem toda interação precisa de supervisão. Mas decisões com impacto financeiro, jurídico ou contratual precisam de uma pessoa no circuito.

O desenho comum é permitir que o agente atue livremente em informação e triagem, e exigir confirmação humana em qualquer ação que gere compromisso — preço fechado, condição de pagamento, promessa de entrega.

Registre as interações de forma auditável

Quando algo dá errado, a primeira pergunta é o que exatamente foi dito. Sem registro adequado, a discussão vira memória de quem estava por perto.

Um histórico útil guarda a conversa completa, quais dados o agente consultou para responder, quando houve transferência para humano e qual versão da configuração estava ativa naquele momento.

Avalie continuamente, não só na implantação

Sistemas baseados em modelos de linguagem não têm comportamento fixo. Mudanças de configuração, atualizações de modelo e variações no perfil das conversas alteram o resultado ao longo do tempo.

Por isso a avaliação precisa ser rotina e não evento. Um conjunto de casos de teste representativos, executado periodicamente, detecta degradação antes que o cliente perceba. Amostragem de conversas reais revisadas por pessoas complementa o quadro, mostrando problemas que nenhum teste previu.

Comece pequeno de propósito

A implantação mais segura começa com escopo restrito e volume controlado — um segmento de atendimento, uma loja, um horário. Isso permite observar o comportamento real com exposição limitada.

A expansão vem depois, apoiada em evidência de que o sistema se comporta como esperado. É mais lento no início e substancialmente mais barato que reverter uma implantação ampla que deu errado.

Perguntas frequentes

A LGPD se aplica ao uso de IA no atendimento?

Sim. O tratamento de dados pessoais por um agente de IA segue as mesmas regras de qualquer outro tratamento: exige base legal, transparência com o titular, controle de acesso e atendimento aos direitos previstos na lei.

O que fazer quando a IA responde algo errado a um cliente?

O plano precisa existir antes do incidente: registro que permita reconstruir o que foi dito, caminho definido de correção com o cliente e ajuste da configuração para evitar repetição. Sem registro auditável, nenhuma dessas etapas é possível.

Com que frequência avaliar o comportamento do agente?

De forma contínua. Um conjunto fixo de casos de teste executado periodicamente, somado à revisão humana de uma amostra de conversas reais, é o arranjo mínimo para detectar degradação antes do cliente.