Intervención humanaHuman in the Loop
Dejar a una persona en el punto donde ya no se puede volver atrás
- La intervención humana no significa que una persona mire cada paso. Significa dejar a una persona solo frente a los puntos que ya no tienen vuelta atrás.
- El trabajo de esa persona se reparte en tres: detener, elegir y corregir. Según cuál sea, la pantalla que necesita cambia por completo.
- Que exista una casilla para confirmar no significa que haya verificación real. Si el volumen y la velocidad superan lo que se puede revisar, la confirmación queda solo de nombre.
- Las personas tienden a confiar sin cuestionar lo que entrega la máquina. Sabiendo eso, hace falta un dispositivo que obligue a volver a mirar.
- Las condiciones que hacen que la confirmación funcione son claras: reducir cuánto hay que revisar, mostrar las razones junto al resultado, y facilitar decir que no.
Contenido
1La analogía
En una gasolinera de autoservicio, la máquina hace casi todo. Cobra el pago, mide cuánto entró, y se detiene sola al llegar a la cantidad indicada. A la persona le queda muy poco por hacer.
Pero hay un solo punto donde la mano de la persona sigue siendo indispensable: el momento de elegir el tipo de combustible antes de conectar la manguera. Los demás pasos, si se equivocan, se pueden repetir sin problema: si se marcó mal el monto, se cancela y se vuelve a cargar. Con el tipo de combustible no pasa lo mismo. Una vez que entra, ya no se puede sacar, y hay que llevar el auto al taller.
El lugar donde se coloca la intervención humana se decide de la misma manera. No se trata de que una persona supervise cada paso, sino de dejarla justo frente al único punto donde, si algo sale mal, ya no hay vuelta atrás. Y se parece también en esto: de tanto cargar combustible, uno termina fijándose solo en el color de la manija y pasando de largo.
2En detalle
Lo que se puede deshacer y lo que no
La mayor parte de lo que se le encarga a la IA se puede deshacer. Se le pide un borrador y, si no gusta, se le pide otro; se le pide clasificar archivos y, si se equivoca, se mueven de carpeta. Poner una confirmación humana en estos puntos solo enlentece el proceso sin ganar nada a cambio.
Lo que no se puede deshacer es distinto por naturaleza. Enviar un correo, mover dinero, borrar un archivo, publicar algo hacia afuera, confirmar una reserva: todo esto entra en esta categoría. A medida que aumentan las herramientas que avanzan solas por varios pasos, estos puntos se han vuelto naturalmente más frecuentes.
Por eso las herramientas actuales suelen dividir el flujo en dos tipos de tramos: uno que avanza por su cuenta y otro que se detiene a preguntarle a una persona. Dónde se coloca ese umbral define casi por completo el carácter de la herramienta.
El trabajo de la persona se reparte en tres
Lo primero es detener. Solo se juzga si algo puede seguir adelante tal cual está, y se responde sí o no. Es lo más común y lo más rápido, pero si en la pantalla no hay material suficiente para juzgar, la persona termina apretando "sí" sin más.
Lo segundo es elegir. La IA presenta dos o tres opciones y la persona toma una. Como se puede ver la diferencia entre ellas, el juicio ocurre de verdad. A cambio, generar esas opciones toma más tiempo.
Lo tercero es corregir. La persona retoca el resultado antes de que salga. Es lo que más trabajo exige, pero deja algo a cambio: la parte que la persona corrigió puede servir como material para el siguiente entrenamiento o para ajustar las reglas.
Cuando la confirmación queda solo de nombre
Las personas tienden a no dudar de lo que entrega la máquina. Si acertó noventa y nueve veces seguidas, uno da por hecho que la número cien también estará bien. Los accidentes que ocurren a pesar de tener a alguien vigilando suelen nacer justo ahí.
Si a esto se le suma el volumen, la confirmación se derrumba por completo. Si llegan cientos de casos al día y casi todos están en orden, lo único que queda es el gesto de pasar la pantalla. Si además no se muestran las razones, la cosa empeora todavía más. Cuando solo hay una conclusión y no un porqué, la persona no tiene de dónde agarrarse.
El ambiente que hace difícil decir que no también influye. Si rechazar significa más trabajo, tener que explicar y hacer esperar a todos, la persona se inclina a dejar pasar. Para que la confirmación funcione, decir que no no puede salir más caro que decir que sí.
Cómo lograr que la confirmación funcione de verdad
Primero, reducir el volumen. No enviarle todos los casos a la persona; subir solo los que son ambiguos. Se puede filtrar según el valor de confianza que la propia IA calcula, según qué tan distinto es este caso de lo habitual, o según si el monto involucrado es alto.
Segundo, mostrar las razones junto al resultado. Qué se miró y en qué material se apoyó el juicio tiene que estar en la misma pantalla, para que la persona pueda volver a revisarlo. Tercero, dejar un margen para deshacer. Si se puede cancelar durante un breve momento después de enviar algo, la carga misma de tener que confirmar baja.
3Con más precisión
La intervención humana se usa en dos lugares distintos. Uno es la etapa de construcción: etiquetar datos con la respuesta correcta, o calificar como buenas o malas las respuestas generadas para retroalimentar el entrenamiento. El otro es la etapa de operación: el momento en que, mientras el sistema ya está funcionando, una persona aprueba o elige. Comparten el mismo nombre, pero cumplen propósitos distintos.
También hay términos cercanos que se distinguen entre sí: el esquema donde el flujo no puede avanzar sin que una persona participe, el esquema donde la persona observa desde el costado y solo interrumpe si algo se ve raro, y el esquema donde normalmente no se toca nada pero se establece de antemano que la última palabra es de una persona. Según cuál se use, la carga que recae sobre esa persona también cambia.
La analogía también tiene sus límites. En la gasolinera hay un único punto de verificación, claro, y lo correcto se ve en el color de la manija. Del lado de la IA, los puntos de verificación están repartidos en varios lugares, y muchas veces con solo mirar la pantalla es difícil saber qué está mal. Tampoco hay garantía de que una persona siempre acierte más. Hay tipos de juicio donde, de hecho, la persona se equivoca con más frecuencia, así que agregar a alguien no genera seguridad por sí solo.
4Pruébalo
5Malentendidos comunes
Es fácil pensar que, si hay una persona confirmando, ya es seguro, pero en realidad la confirmación solo funciona como tal cuando esa persona tiene el volumen y las razones necesarias para revisar.
Es fácil pensar que poner a alguien en cada paso es más seguro, pero en realidad, si se obliga a confirmar todo, al final no se termina confirmando nada.
Es fácil pensar que, cuando la IA mejore lo suficiente, la intervención humana desaparecerá, pero en realidad la confirmación frente a lo que no tiene vuelta atrás se mantiene sin importar cuánto mejore el rendimiento.
7Resumen en una línea
En resumenLa intervención humana consiste en dejar a una persona frente a los puntos que ya no tienen vuelta atrás, y si no se le da el volumen y las razones adecuadas, esa confirmación queda solo de nombre.
¿Has visto un error o tienes una analogía mejor? Sugerir una corrección · Última actualización2026-09-02