AutocodificadorAutoencoder

El lado que comprime y el que reconstruye van juntos

La estructura tiene dos partes. La de adelante va reduciendo la información de entrada hasta convertirla en un grupo pequeño de números; la de atrás recibe solo ese grupo y arma un resultado del tamaño original. El valor que queda en el punto más angosto, en el medio, equivale a lo que se anotó en la partitura.

Las dos partes no se entrenan por separado. Se mide cuánto difiere el resultado reconstruido del original, y esa diferencia se reparte entre ambas. Si el lado que comprime anota mal, el lado que toca no tiene cómo salvarlo, y si la partitura está bien pero la ejecución es torpe, el resultado también sale mal; por eso se ajustan juntas.

Al terminar el entrenamiento, las dos partes se pueden separar y usar por su cuenta. Solo la parte que comprime se convierte en una herramienta para resumir datos en pocos valores; solo la parte que reconstruye se convierte en una herramienta para generar algo a partir de esos valores.

La respuesta correcta es el propio dato

El aprendizaje habitual necesita una respuesta que alguien puso a mano: etiquetar cada foto, marcar si cada frase está bien o mal. El autocodificador no necesita nada de eso. El dato de entrada es, en sí mismo, la respuesta correcta, así que basta con juntar muchas fotos para tener listo el material de práctica.

Gracias a esto se puede aprovechar libremente cualquier dato sin etiquetar: fotos de piezas tomadas en una fábrica, registros que dejó un servidor, grabaciones de audio sin ordenar sirven directamente como material de entrenamiento.

El único riesgo es que, como el objetivo es "reconstruir tal cual", el modelo puede buscar un atajo. Si el espacio del medio queda demasiado holgado, encuentra la manera de llevar el original entero de contrabando, sin resumir nada. Por eso se angosta el centro a propósito.

Cuánto angostar el espacio de en medio

El tamaño del espacio central lo decide una persona. Dejarlo holgado hace que el resultado reconstruido casi no se distinga del original, pero entonces ya no queda nada que merezca llamarse resumen. Dejarlo muy angosto conserva solo los rasgos gruesos y borra los detalles.

Cuanto más se angosta, más obligado queda el modelo a elegir qué importa. Si hay que reducir una foto de cara a unos pocos valores, lo primero en ocupar lugar es algo tan grande como la posición de ojos, nariz y boca, mientras que la dirección de un mechón de pelo se descarta. Lo que sobrevive a esa reducción es el resumen del dato.

El tamaño correcto depende del dato y del objetivo. Si la meta es comprimir, se achica hasta el límite en que el resultado siga siendo aceptable; si el valor resumido se va a usar en otra tarea, se ajusta mirando el rendimiento de esa tarea.

Lo que no se anota, desaparece

El resultado reconstruido no es igual al original. Un matiz que no quedó en la partitura no va a sonar por más que se toque. Fijarse en qué desaparece revela qué le pareció importante al modelo.

Esta propiedad también se usa al revés. Un dato parecido en carácter a lo que se entrenó se reconstruye bien, pero uno de un tipo nunca visto sale bastante deformado. Medir ese desajuste y usarlo como señal de anomalía es una técnica que se aplica en inspección de equipos o en detección de fraude.

Dónde se usa

El uso más directo es la compresión: se reduce el dato a un valor corto para guardarlo, y se reconstruye cuando hace falta. Ese valor comprimido también sirve de resumen para buscar, lo que hace mucho más liviana la tarea de encontrar datos parecidos.

También se usa para quitar ruido. Si se mete una foto con manchas puestas a propósito y se pone la versión limpia como objetivo, la mancha no tiene dónde anotarse y termina desapareciendo sola. En los métodos actuales de generación de imágenes, esta estructura también aparece en el lugar donde una imagen grande se reduce a un resumen chico, se trabaja adentro y luego se vuelve a expandir.