Gobernanza de IA: qué definir antes de poner un agente en producción

Delimite el alcance por escrito

El primer control es también el más simple: registrar lo que el agente puede y no puede hacer. No como una intención genérica, sino como una lista concreta de temas permitidos, temas prohibidos y situaciones de transferencia obligatoria.

Ese documento se convierte en la base tanto de la configuración técnica como de las pruebas. Sin él, no hay un criterio objetivo para decir si el comportamiento observado es correcto o incorrecto.

Trate los datos personales con los mismos criterios que el resto de la empresa

Un agente de atención va a procesar nombre, teléfono y, con frecuencia, información financiera como rango de ingresos o intención de financiamiento. La LGPD (la ley de protección de datos de Brasil) se aplica íntegramente a ese tratamiento.

En la práctica, eso significa decidir explícitamente algunos puntos antes de poner el sistema en marcha:

• Cuál es la base legal del tratamiento y cómo se comunica al titular.
• Qué datos se envían efectivamente a los proveedores de modelos y durante cuánto tiempo se conservan.
• Durante cuánto tiempo la empresa guarda los historiales de conversación y con qué finalidad.
• Quién, internamente, tiene acceso a esos registros.
• Cómo se atiende en la práctica una solicitud de eliminación del titular.

Mantenga la revisión humana donde la decisión tiene peso

No toda interacción necesita supervisión. Pero las decisiones con impacto financiero, jurídico o contractual necesitan a una persona en el circuito.

El diseño habitual es permitir que el agente actúe libremente en información y clasificación, y exigir confirmación humana en cualquier acción que genere un compromiso: precio cerrado, condición de pago, promesa de entrega.

Registre las interacciones de forma auditable

Cuando algo sale mal, la primera pregunta es qué se dijo exactamente. Sin un registro adecuado, la discusión depende de la memoria de quien estaba cerca.

Un historial útil guarda la conversación completa, qué datos consultó el agente para responder, cuándo hubo transferencia a una persona y qué versión de la configuración estaba activa en ese momento.

Evalúe de forma continua, no solo en la implementación

Los sistemas basados en modelos de lenguaje no tienen un comportamiento fijo. Los cambios de configuración, las actualizaciones de modelo y las variaciones en el perfil de las conversaciones alteran el resultado con el tiempo.

Por eso la evaluación debe ser una rutina y no un evento. Un conjunto de casos de prueba representativos, ejecutado periódicamente, detecta la degradación antes de que el cliente la note. Un muestreo de conversaciones reales revisadas por personas completa el panorama y muestra problemas que ninguna prueba previó.

Empiece en pequeño a propósito

La implementación más segura empieza con un alcance acotado y un volumen controlado: un segmento de atención, una sucursal, una franja horaria. Eso permite observar el comportamiento real con una exposición limitada.

La expansión viene después, respaldada por evidencia de que el sistema se comporta como se espera. Es más lento al principio y sustancialmente más barato que revertir una implementación amplia que salió mal.

Preguntas frecuentes

¿La LGPD se aplica al uso de IA en la atención?

Sí. El tratamiento de datos personales por parte de un agente de IA sigue las mismas reglas que cualquier otro tratamiento: exige base legal, transparencia con el titular, control de acceso y atención de los derechos previstos en la ley.

¿Qué hacer cuando la IA le responde algo incorrecto a un cliente?

El plan debe existir antes del incidente: un registro que permita reconstruir lo que se dijo, un camino definido para corregir la situación con el cliente y un ajuste de la configuración para evitar que se repita. Sin un registro auditable, ninguna de esas etapas es posible.

¿Con qué frecuencia conviene evaluar el comportamiento del agente?

De forma continua. Un conjunto fijo de casos de prueba ejecutado periódicamente, sumado a la revisión humana de una muestra de conversaciones reales, es el esquema mínimo para detectar la degradación antes que el cliente.