Autocodificador variacionalVariational Autoencoder

Se anota un rango en lugar de un punto

El autocodificador reduce cada dato a un solo grupo de números: a cada dato le corresponde un único punto. El problema es que entre esos puntos no hay nada. Tomar un punto entre uno y otro da un resultado irreconocible.

El autocodificador variacional hace que el lado que comprime entregue dos grupos de valores: uno es el centro y el otro es el ancho de dispersión alrededor. Cada dato queda registrado, no como un punto, sino como una región redonda.

Al registrarse como región, las regiones de datos vecinos empiezan a superponerse. En esa zona de superposición sale un resultado que mezcla propiedades de un dato y del otro. Rellenar el hueco entre puntos es lo central de este método.

Cada vez se saca un punto al azar dentro del rango

El lado que reconstruye no recibe el centro tal cual. Saca un punto al azar dentro del ancho anotado, y con ese valor arma el resultado. Aunque entre la misma imagen, el punto que sale sorteado cambia cada vez, así que el resultado también cambia un poco cada vez.

Este sorteo complica el entrenamiento: si el azar se mete en el medio, no se puede rastrear hacia atrás cuánto ni dónde corregir. Por eso se cambia la forma de sortear. Primero se genera un valor al azar aparte, y la posición se arma sumando el centro más el ancho multiplicado por ese azar. Como el azar queda afuera, el centro y el ancho se pueden ajustar de forma normal.

Hay dos penalizaciones

Durante el entrenamiento se miden dos cosas. La primera es cuánto se aleja el resultado reconstruido del original. La segunda es cuánto se aparta el rango anotado de una forma estándar fijada de antemano: una regla que impide que las recetas queden anotadas cada una muy lejos de las demás.

Las dos penalizaciones tiran en direcciones opuestas. Si solo importara reconstruir bien, el ancho se achicaría al máximo hasta volverse casi un punto, y el hueco entre datos volvería a quedar vacío. Si solo importara ajustarse a la forma estándar, todas las recetas se apretarían hacia el centro y cualquier imagen que entrara daría un resultado parecido.

Cómo se reparte el peso entre las dos penalizaciones es lo que define el carácter del modelo. De ahí también salieron los intentos de separar con más claridad qué propiedad le toca a cada posición, ajustando ese peso.

Caminar entre dos puntos también da algo verosímil

Cuando los rangos se superponen y el espacio queda bien relleno, se vuelve posible algo interesante. Si se toman las posiciones de dos imágenes y se camina entre ellas a intervalos regulares, generando un resultado en cada paso, salen escenas que van cambiando suavemente de una a otra. No aparece nada irreconocible en el medio.

También se simplifica generar algo nuevo: basta con sacar un valor al azar del rango estándar y pasarlo al lado que reconstruye, sin necesitar ningún dato original. Aunque sea un lugar que nunca se usó en el entrenamiento, sale un resultado que mezcla propiedades de lo que está cerca.

Por qué el resultado sale suave

Lo que se genera con este método tiende a verse estable en la forma, pero con los bordes blandos y los detalles algo borrosos. Como la estructura permite que salga más de un resultado válido en la misma posición, al lado que reconstruye le conviene dibujar algo cercano al promedio de esas posibilidades, porque eso reduce la penalización.

Por eso, donde hace falta una imagen bien nítida, este método se combina con otro: se le deja solo el trabajo de reducir el dato a un resumen chico, y el trabajo de afinar el resultado se lo pasa a un método que va limpiando manchas paso a paso. En campos como el sonido o las estructuras moleculares, donde hace falta que las posiciones se conecten sin saltos, este método por sí solo sigue siendo muy usado.