El humano en el bucle: dónde poner la aprobación en un flujo con IA (y dónde quitarla)

No hay que decidir si se supervisa un flujo con IA, sino qué decisiones merecen supervisión y cuáles la entorpecen. Poner una aprobación humana en cada paso parece prudente, pero suele producir dos problemas: el flujo va más lento que el proceso manual al que sustituía y la persona que aprueba acaba dando el visto bueno sin mirar. Si la aprobación se coloca mal, no protege nada y encima sale cara.

Por qué este debate aparece ahora en las pymes

A medida que los agentes de IA pasan de responder preguntas a ejecutar acciones (emitir un pedido, contestar a un cliente, actualizar el CRM, proponer un pago), la pregunta ya no es solo si la respuesta es buena. Ahora también hay que saber quién responde si la acción es mala.

El marco normativo va en la misma dirección. El Reglamento europeo de IA (Reglamento (UE) 2024/1689) exige en su artículo 14 que los sistemas de alto riesgo se diseñen para que personas físicas puedan supervisarlos de forma efectiva. El RGPD, en su artículo 22, limita las decisiones basadas únicamente en tratamiento automatizado que produzcan efectos jurídicos o significativos sobre una persona. El marco de gestión de riesgos de IA del NIST (AI RMF) también trata la supervisión humana como parte del gobierno del sistema y no como un añadido. Ninguno de los tres dice «aprueba todo». Todos piden que la supervisión sea efectiva, y eso es un problema de diseño del proceso.

El error habitual: supervisión por miedo o por fe

En la práctica vemos dos extremos, y los dos salen caros:

• Aprobar todo. Cada salida del agente pasa por una persona. Al principio se revisa con atención. Unas semanas después, con la bandeja llena y casi todo correcto, la revisión se vuelve un clic automático. En el papel hay supervisión, pero en la realidad nadie supervisa, y además hay una cola que retrasa la operación.
• No aprobar nada. Se confía en el agente porque en la demostración funcionó. El primer error serio (un abono duplicado, un email a un cliente equivocado, un pedido con la cantidad multiplicada) llega sin que nadie lo vea hasta que el cliente o el banco avisan.
• Aprobar en el sitio equivocado. Se revisa el texto final de un email, que es lo visible, pero no el dato que lo alimenta, que es donde está el riesgo. Se corrige el síntoma y el error de origen sigue ahí.

Los tres casos tienen la misma causa: la aprobación se decide pensando en la tecnología («¿me fío de la IA?») y no en el proceso («¿qué pasa si esta decisión concreta sale mal?»).

Una aprobación que nadie lee no es supervisión. Es un coste con apariencia de control.

Marco Aito: clasificar decisiones, no pasos

Un flujo con IA no se supervisa entero. Se supervisan decisiones. Por eso lo primero es separar dentro del flujo qué es transporte de datos (mover, copiar, formatear) y qué es decisión (clasificar, elegir, aprobar, comunicar, pagar). Mover datos casi nunca necesita a una persona. Algunas decisiones sí la necesitan.

Para cada decisión hacemos cuatro preguntas:

1. ¿Es reversible? Etiquetar mal un correo se deshace en segundos. Una transferencia enviada o un email a un cliente no se deshacen.
2. ¿Cuánto cuesta equivocarse? En dinero, en relación con el cliente, en cumplimiento normativo o en tiempo de corrección. Hay errores baratos y errores que cuestan un cliente.
3. ¿Hay criterio claro o hace falta juicio? Si la regla se puede escribir, a lo mejor no hace falta IA ni aprobación, sino una automatización con reglas. Si depende de contexto, el juicio humano tiene sentido.
4. ¿Cuántas veces ocurre? Una decisión que se repite cientos de veces al día no se puede revisar una a una sin crear un cuello de botella. Una que ocurre cinco veces al mes sí.

Con esas respuestas, cada decisión cae en uno de estos cuatro modos de supervisión:

1. Aprobación previa obligatoria

La acción no se ejecuta hasta que una persona la valida. Se reserva para decisiones irreversibles, caras y poco frecuentes: pagos por encima de un umbral, cambios de condiciones comerciales, comunicaciones con efectos contractuales y decisiones sobre personas que entran en el ámbito del artículo 22 del RGPD (lo tratamos en detalle en agentes de IA y RGPD).

2. Aprobación por excepción

El agente ejecuta solo lo que cumple las condiciones definidas y envía a una persona lo que se sale de ellas: importes fuera de rango, clientes nuevos, datos incompletos, baja confianza en la clasificación o contradicciones entre sistemas. Es el modo más rentable en flujos de volumen, porque la atención humana va donde está el riesgo.

3. Revisión posterior por muestreo

La acción se ejecuta y una persona revisa después una muestra periódica. Sirve para decisiones reversibles y de coste bajo, como clasificar tickets, etiquetar documentos o hacer borradores internos. No frena la operación y detecta cuándo empieza a degradarse la calidad.

4. Sin revisión humana directa

Mover datos, formatear y sincronizar estados. Aquí la supervisión no la hace una persona, sino alertas y registros: si algo falla, el sistema avisa. Poner a alguien a revisar esto es gastar su tiempo en lo que mejor hace una máquina.

Cómo diseñar los puntos de aprobación en cinco pasos

1. Dibuja el flujo y marca las decisiones. Con un mapa de proceso en una página basta. Cada rombo es una decisión y cada caja un movimiento de datos. Solo los rombos son candidatos a supervisión.
2. Puntúa cada decisión con las cuatro preguntas (reversibilidad, coste del error, criterio o juicio, frecuencia) y asígnale un modo. Si dudas entre dos, empieza por el más estricto y rebaja con datos, no con intuición.
3. Diseña lo que ve quien aprueba. Una aprobación sin contexto no sirve. La persona tiene que ver qué propone el agente, en qué datos se basa, qué regla o umbral ha saltado y qué cambiaría si rechaza. Si para decidir tiene que abrir tres sistemas, no revisará de verdad.
4. Asigna un responsable y un plazo. Cada punto de aprobación tiene un dueño con nombre y un tiempo máximo de respuesta. Hay que decidir también qué ocurre si vence el plazo: ¿se bloquea, pasa a otra persona o se ejecuta? Una aprobación sin dueño acaba siendo una cola sin fin.
5. Mide y ajusta. Revisa periódicamente la tasa de aprobaciones sin cambios, la tasa de correcciones, el tiempo en cola y los errores que se escaparon. Estas cifras te dicen dónde sobra supervisión y dónde falta.

Ese quinto paso es el que casi nadie hace, y es el que convierte la supervisión en un sistema vivo. Si un punto de aprobación lleva meses con casi todo aprobado sin cambios y sin errores posteriores, probablemente se puede pasar a excepción o a muestreo. Si la revisión por muestreo empieza a encontrar fallos, toca subir el nivel. Lo explicamos con más detalle en cómo medir si tu agente de IA funciona.

La supervisión también tiene coste (y hay que calcularlo)

Cuando se evalúa un proyecto con agentes, se suele calcular el tiempo que ahorra la automatización y olvidar el que consume la revisión. Pero cada aprobación tiene un coste: el tiempo de quien revisa, la espera del flujo y el coste de cambiar de tarea. Si no se incluye, el cálculo del ROI sale inflado.

No damos una cifra genérica porque depende de cada proceso. Los datos que hacen falta para calcularlo son estos:

• Volumen de decisiones por periodo y qué parte va a revisión.
• Tiempo medio de revisión por caso, medido y no estimado.
• Tiempo en cola y su efecto en el plazo que percibe el cliente.
• Coste medio de un error no detectado en esa decisión.
• Tasa de correcciones reales en la revisión (si es casi cero, la revisión no está aportando).

Con esos datos la conversación deja de ser «¿nos fiamos de la IA?» y pasa a ser «¿cuánto nos cuesta revisar esto y cuánto nos cuesta no hacerlo?». Esa pregunta sí tiene respuesta.

Cuándo sí y cuándo no poner una persona delante

Sí conviene aprobación humana cuando…

• La acción es irreversible o su corrección es cara (pagos, envíos a clientes, cambios contractuales).
• La decisión afecta a personas de forma significativa (selección, crédito, sanciones, condiciones).
• El dato de entrada es irregular y el agente no puede indicar con fiabilidad cuándo duda.
• El proceso es nuevo y aún no hay histórico para saber cómo se equivoca el sistema.
• La normativa o un contrato exigen una validación con nombre y apellidos.

No conviene (o conviene rebajarla) cuando…

• La decisión se puede escribir como regla: entonces sobra la IA, y probablemente también la aprobación.
• El error es barato, se detecta pronto y se corrige fácilmente.
• El volumen hace imposible una revisión real y se acaba aprobando por inercia.
• Llevas tiempo midiendo y la revisión casi nunca cambia nada.
• Quien aprueba no tiene ni el contexto ni la autoridad para rechazar.

Hay un caso previo a todos estos. Si no puedes decidir dónde poner la aprobación porque no sabes qué decisiones hay en el flujo, el problema no está en la supervisión: todavía no estás en fase de agente. Antes toca revisar las condiciones previas a un agente de IA y, si hace falta, ordenar el proceso.

Supervisar es una decisión de diseño

La supervisión humana no es una casilla que se marca para quedarse tranquilo ni un freno que se quita para ir más rápido. Es una parte más del diseño del proceso: se coloca donde el error es caro, se quita donde no aporta y se revisa con datos. Las empresas que sacan valor de los agentes de IA no son las que más supervisan ni las que menos. Son las que saben exactamente qué decisiones merecen una persona delante.