Para probar IA en atención sin exponer toda la operación, selecciona una tarea estrecha, crea casos de evaluación representativos, comienza sin respuestas autónomas al cliente, asigna un responsable humano y define antes de probar qué permite avanzar, qué exige ajuste y qué detiene el piloto.
Escribe el contrato operativo antes de elegir el modelo
Describe en una página la tarea permitida, la población elegible, los canales, el conocimiento aprobado, las acciones prohibidas, el dueño del piloto y el límite de riesgo. “Mejorar la atención con IA” no se puede evaluar. “Sugerir respuestas sobre el estado de un pedido usando fuentes aprobadas, sin cambiar pedido, precio, dirección ni promesa de entrega” sí.
El núcleo del AI Risk Management Framework de NIST propone documentar propósito, contexto, límites de conocimiento, supervisión humana y tolerancia al riesgo. También indica que los sistemas deben probarse antes de desplegarse y evaluarse regularmente durante la operación. Para un equipo de atención, esto se convierte en un acuerdo práctico: qué puede hacer la IA, qué evidencia necesita, cuándo debe parar y quién recibe el caso.
Documenta también la alternativa sin IA. Si se pausa el piloto, el servicio debe continuar con colas, mensajes aprobados y responsables humanos. Un experimento reversible protege al cliente y mejora la decisión: el equipo no tiene que defender la automatización solo porque apagarla causaría desorden.
Usa cinco etapas, no un único interruptor de lanzamiento
Un piloto es una secuencia de decisiones. Cada etapa debe tener un nivel distinto de exposición del cliente y una evidencia clara para pasar a la siguiente.
| Etapa | Exposición del cliente | Evidencia para avanzar |
|---|---|---|
| Evaluación offline | Ninguna | Casos comunes, límites y fallas críticas probados |
| Modo sombra | Sin respuesta ni acción de IA | Sugerencias comparadas con decisiones humanas reales |
| Modo asistido | El agente revisa antes de enviar | Aceptaciones, ediciones, rechazos y motivos registrados |
| Piloto en vivo limitado | Una intención, cola o canal aprobado | Cumple criterios de calidad, seguridad y transferencia |
| Expansión controlada | Aumento gradual | Estabilidad en la ventana acordada y rollback funcional |
Modo sombra significa que el sistema genera un resultado para comparación, pero no lo muestra al cliente ni ejecuta una acción. En el modo asistido, el agente puede aceptar, editar o rechazar. Esas decisiones son datos de evaluación, pero la tasa de aceptación no basta. Registra por qué falló la sugerencia: fuente ausente, interpretación incorrecta, tono inadecuado, alcance inseguro, falta de contexto o transferencia necesaria.
La autoridad brasileña de protección de datos publicó una metodología de pruebas para su Sandbox Regulatorio de IA y protección de datos. Organiza los experimentos en preparación, experimentación y gestión de riesgos, evaluación y ajuste. No es un manual obligatorio para toda empresa, pero ofrece un patrón útil de evidencia: contrastar promesas con documentos, registros técnicos, pruebas y revisión especializada, y volver a evaluar arquitectura, flujos de datos y controles cuando cambia el experimento.
Crea casos de evaluación parecidos al trabajo real
Comienza con preguntas frecuentes e incorpora información incompleta, lenguaje ambiguo, expresiones locales, clientes frustrados, datos contradictorios, intentos de desviar instrucciones y situaciones que siempre deben llegar a una persona. Separa los ejemplos usados para ajustar de los reservados para decidir. Corregir y volver a probar siempre los mismos casos puede aumentar el resultado sin demostrar que funcionará en conversaciones nuevas.
Las buenas prácticas de evaluación de OpenAI recomiendan pruebas específicas de la tarea, evaluación temprana y frecuente, registros útiles, datos cercanos a la distribución real y juicio humano para calibrar la puntuación automática. La evaluación debe ser continua, no una formalidad antes del lanzamiento.
- Casos típicos con respuesta y fuente esperadas
- Casos límite, datos ausentes y lenguaje regional
- Pedidos fuera de alcance e intentos de provocar una acción indebida
- Situaciones que requieren transferencia humana con contexto
- Fallas históricas convertidas en pruebas de regresión
- Ejemplos nuevos reservados para la decisión de salida
- Revisión de quienes conocen la política y el trabajo de primera línea
Si usas conversaciones reales, minimiza y controla los datos. No copies historiales completos a hojas de cálculo sin gobierno. Define acceso, retención y finalidad, elimina lo innecesario e involucra a los responsables internos de privacidad y seguridad. La ANPD reúne medidas administrativas y técnicas en su guía de seguridad de la información para agentes de pequeño porte. Debe aplicarse según el contexto; este artículo no ofrece asesoría legal.
Define los criterios go/no-go antes de obtener resultados
No existe una tasa universal que vuelva segura una operación de atención. El umbral depende de la tarea y del impacto del error. Una etiqueta interna sugerida puede corregirse antes de producir una consecuencia. Una acción que cambia pago, cancelación, acceso o compromiso formal necesita controles mucho más fuertes y quizá deba permanecer fuera del piloto.
| Dimensión | Pregunta de decisión | Condición de parada |
|---|---|---|
| Corrección | ¿La respuesta usa la fuente aplicable sin inventar hechos? | Error crítico o nuevo patrón repetido |
| Alcance | ¿La IA reconoce cuándo no debe responder o actuar? | Supera tema, acción o permiso aprobado |
| Transferencia | ¿Conserva contexto y responsable visible? | El cliente queda atrapado o el caso sin dueño |
| Privacidad y seguridad | ¿Datos y accesos permanecen dentro del límite? | Exposición, acceso indebido o registro inseguro |
| Operación | ¿Colas, latencia y excepciones siguen administrables? | Backlog, falla técnica o pérdida de contexto |
| Recuperación | ¿El equipo puede desactivar, devolver y conciliar? | El rollback falla de punta a punta |
Combina métricas agregadas con revisión de conversaciones. Una aceptación alta puede ocultar ediciones silenciosas; un promedio de calidad puede ocultar una falla rara y grave. Usa el scorecard de auditoría de conversaciones con IA para separar evidencia, resultado, riesgo, transparencia y transferencia. El responsable del turno debe poder detener el flujo afectado cuando aparece una condición crítica.
Monitorea a diario y prueba el rollback como flujo real
Durante el piloto revisa cada día fallas críticas, rechazos humanos, motivos de edición, transferencias, recontacto, reclamos, latencia y backlog. Segmenta por intención, canal, versión, fuente y cola. Un promedio favorable puede ocultar un peor comportamiento con lenguaje informal, clientes nuevos o una categoría sensible.
Registra la versión del flujo, las instrucciones, el conocimiento, el modelo y las integraciones. Todo cambio material debe ejecutar otra vez las regresiones antes de volver al piloto. El Perfil de IA Generativa de NIST refuerza la gestión de riesgos durante todo el ciclo de vida. Cambiar modelo, fuente o herramienta cambia el sistema evaluado, aunque la interfaz sea la misma.
Haz un simulacro de rollback en un periodo controlado: detén la automatización, devuelve los casos activos a la cola correcta, conserva el historial, informa al equipo, concilia acciones pendientes y confirma que el cliente todavía puede llegar a una persona. El playbook de incidentes de IA ayuda a convertir una falla real en contención, corrección, recuperación y un nuevo caso de regresión.
Plan práctico de cuatro semanas
- Semana 1 — contrato y evaluación: elige una tarea; mapea riesgos, conocimiento, datos y responsables; crea casos típicos, límite y prohibidos; realiza pruebas offline.
- Semana 2 — sombra: genera sugerencias sin exposición del cliente; compáralas con decisiones humanas; clasifica divergencias y corrige conocimiento, instrucciones o alcance.
- Semana 3 — asistencia: permite el envío solo después de revisión; mide aceptación, edición, rechazo, transferencia y tiempo operativo; completa el simulacro de rollback.
- Semana 4 — alcance en vivo limitado: libera solo la población aprobada, revisa a diario, ejecuta regresiones después de cambios y documenta la decisión de mantener, ajustar, ampliar o terminar.
El resultado no es una frase vaga como “la IA funcionó”. Es una decisión rastreable sobre una tarea bajo condiciones definidas, con limitaciones conocidas, responsables nombrados y un siguiente paso reversible. Esa disciplina permite aprender rápido sin trasladar al cliente el costo del experimento.