¿Qué es Aprendizaje autosupervisado? — una analogía

1La analogía

Quien aprende a reparar relojes no espera a que un maestro le corrija. Abre un reloj que anda bien, saca en silencio un solo diente de un engranaje y vuelve a cerrar la tapa. Mirando solo el resto del mecanismo, trata de averiguar qué tamaño de diente y cuántos dientes debían ir en el hueco vacío. Sabe de inmediato si acertó: basta con volver a poner el diente que él mismo sacó y comprobar si encaja. No necesita fabricar una hoja de respuestas aparte, porque el reloj mismo era la respuesta. Repitiendo este juego con miles de relojes, llega un punto en que hasta un reloj que nunca vio le da una idea de qué debería ir dónde. El aprendizaje autosupervisado es tapar parte de los datos y usar lo tapado como respuesta.

2En detalle

La hoja de respuestas está dentro de los datos

En el aprendizaje supervisado, lo más caro es anotar la respuesta en cada dato. El aprendizaje autosupervisado se salta ese trabajo entero. En vez de fabricar una respuesta nueva, parte en dos los datos que ya existen y usa un lado como problema y el otro como respuesta.

Es como el instante en que sacar un diente crea a la vez problema y respuesta. Si se borra una palabra de una frase, el hueco se convierte en problema y la palabra borrada, en respuesta. Si se tapa una esquina de una foto, esa esquina tapada se convierte en respuesta.

Así, con solo tener datos, los problemas se pueden fabricar sin límite: la misma frase da problemas distintos según qué palabra se tape cada vez.

Qué se tapa decide qué se aprende

La forma de tapar cambia lo que se aprende. Si se tapan trozos sueltos en medio de la frase y se puede ver todo lo de alrededor, se aprende con detalle la relación entre palabras. Si se corta la frase en un punto y se tapa lo que sigue, obligando a continuarla, se aprende la dirección en que fluye el lenguaje. Cada forma sirve para cosas distintas.

Tapar muy poco no deja nada que aprender: si solo se tapa una partícula, se adivina con solo mirar alrededor. Tapar demasiado no deja pistas: por más que se mire, no se puede adivinar. Es como sacar más de la mitad de los dientes de un reloj: ya no se puede intuir la forma original. Encontrar el punto justo de dificultad es el truco de este método.

Se puede usar de un tirón todo lo que no tiene respuesta

El texto, los libros, el código y las fotos acumulados en internet no traen respuesta puesta. Etiquetarlos a mano llevaría toda una vida y no alcanzaría. El aprendizaje autosupervisado se traga ese montón tal cual.

Ahí está el fondo de por qué los modelos de lenguaje grandes mejoraron tan notablemente en tan poco tiempo. La cantidad de datos disponible para entrenar pasó de lo que una persona podía etiquetar a todo lo acumulado en el mundo. La escala de datos que se maneja creció varios órdenes de magnitud.

Lo que se aprende es sentido, no habilidad

Alguien que abrió miles de relojes no puede arreglar de inmediato el reloj de un cliente. Solo ganó un sentido de cómo son los relojes por dentro. La reparación real se completa aparte, sumando a ese sentido cosas como atender al cliente y encargar piezas.

Con el aprendizaje autosupervisado pasa igual. Lo que se gana tapando y adivinando es un sentido de la veta de los datos, no una tarea concreta. Por eso a esta etapa se le llama preentrenamiento, y después viene una etapa que afina la tarea real con poca cantidad de datos con respuesta. Si primero se acumula un sentido amplio, la cantidad de respuestas que hacen falta después baja muchísimo.

También funciona fuera del texto

En fotos, se puede tapar un cuadro y pedir que se reconstruya lo de adentro, o cortar la misma foto de dos formas y cambiarle el color para que se reconozca que son lo mismo. En sonido, se borra un tramo corto y se pide rellenarlo con lo de antes y después. En video, se tapan los siguientes segundos y se pide adivinar cómo sigue la escena.

El método cambia, pero el esqueleto es el mismo: partir los datos en dos, esconder un lado y usar lo escondido como respuesta. Que nadie escriba la respuesta es lo común a todos los casos.

3Con más precisión

El aprendizaje autosupervisado es un método que, sin ningún valor objetivo puesto por una persona, crea un problema sustituto dentro de los propios datos y lo califica igual que el aprendizaje supervisado. Sus dos grandes ejes son reconstruir la parte tapada y acercar entre sí dos trozos sacados de los mismos datos, lo que se llama el enfoque contrastivo. A la etapa donde se aplica este método se le llama preentrenamiento, y a la etapa posterior que ajusta la tarea real, ajuste fino.

La analogía también tiene sus costuras. El diente, al sacarlo, queda en la mano; pero en los datos que maneja el modelo, la parte tapada no desaparece, se guarda aparte solo para usarla al calificar. Además, el reparador trata de entender un reloj, pero el modelo no busca entender un dato: acumula reglas comunes a innumerables datos. Y el sentido que se logra con este método hereda tal cual las propiedades de los datos usados para entrenar. Si los datos traen algún sesgo, ese sesgo se vuelve parte del sentido aprendido. Por muy bien que se tape y se adivine, no hay forma de aprender lo que nunca estuvo en los datos.

4Pruébalo

Fill in the Blank (qué ha aprendido un modelo) ailearn.space Tapa una palabra de una frase y trata de adivinar qué falta. Así se ve, sin que nadie escriba la respuesta, cómo se genera el problema solo

5Malentendidos comunes

Es fácil pensar que aquí no entra para nada la mano de una persona, pero en realidad decidir qué y cómo tapar, y seleccionar y limpiar los datos, requiere bastante trabajo humano.
Es fácil pensar que es solo otro nombre para el aprendizaje no supervisado, pero en realidad la diferencia está en que aquí la respuesta con la que se califica sale de los propios datos. Cada vez queda claro si se acertó o no.
Es fácil pensar que con esto solo ya se tiene un servicio útil, pero en realidad es una etapa para acumular sentido, y necesita una etapa posterior que la ajuste al propósito real.

7Resumen en una línea

En resumenEl aprendizaje autosupervisado tapa una parte de los datos y usa ese trozo tapado como respuesta, generando problemas sin fin aunque nadie escriba las respuestas.

¿Te ayudó esta analogía?

¿Has visto un error o tienes una analogía mejor? Sugerir una corrección · Última actualización2026-09-02