Codificador-decodificadorEncoder-Decoder
Estructura que separa el lado que lee del lado que escribe
- El codificador-decodificador es una estructura que separa el lado que lee del lado que escribe. El primero resume la entrada; el segundo mira ese resumen y arma la frase nueva.
- El codificador ve la frase entera de una sola vez, sin importar el orden. El decodificador sigue escribiendo un fragmento a la vez, desde el principio.
- Lo que une a los dos lados no es el texto original: es un bloque de números que solo guarda el sentido. La letra tal cual no cruza.
- Es una estructura que encaja bien en tareas donde la entrada y la salida tienen forma distinta, como traducir o resumir.
- Los modelos de hoy a veces usan solo el codificador o solo el decodificador, según qué necesita cada tarea.
Contenido
1La analogía
El día de la mudanza nadie empuja el cuarto entero adentro del camión. La ropa del ropero y los libros del estante se guardan en cajas, y en el costado de cada caja se anota qué hay adentro. En ese momento se pierde en qué cajón exacto estaba cada cosa; lo que queda es cuánto hay de qué.
Al llegar a la casa nueva, se abren las cajas una por una y se acomoda todo según ese lugar. El tamaño de los cuartos y la posición de las ventanas son distintos, así que la distribución de antes no se puede copiar tal cual: se mira lo que dice cada caja y se decide un lugar nuevo que encaje en esta casa.
El lado que guarda las cajas es el codificador; el lado que las abre en la casa nueva es el decodificador. Y lo que cruza de un lado al otro son esas cajas con el sentido ya resumido.
2En detalle
El lado que guarda recorre la frase entera
El codificador mira la frase que entra de principio a fin, toda de una vez. No hay problema en que, al procesar la tercera palabra, ya tenga a la vista la décima: todo el texto ya está adentro.
Esta libertad importa por algo concreto. Para saber si "banco" significa la entidad financiera o el asiento del parque hace falta mirar lo que viene después. El codificador puede mirar hacia adelante, así que resuelve esa ambigüedad de entrada.
Después de recorrerla, cada fragmento de la frase queda convertido en un bloque de números. En ese bloque también entra el papel que cumplió ese fragmento dentro de la frase. Es como guardar la caja: no solo se mete el objeto, también se anota en el costado qué contiene.
El lado que escribe pega un fragmento a la vez
Con el decodificador la cosa cambia. No puede adelantarse a mirar una parte que todavía no escribió. Solo con lo que ya escribió y las cajas que le pasó el codificador, elige el fragmento que sigue. Lo pega, vuelve a leer desde el principio y elige el siguiente.
Por eso el decodificador lleva puesta una venda que le tapa lo que viene después. Si en el entrenamiento se le mostrara entera la frase correcta, estaría copiando el fragmento siguiente, así que se tapa a propósito lo que todavía no llegó.
También fabrica solo la señal de que terminó. Cuando decide que no hay nada más que agregar, entrega el fragmento que equivale a "hasta aquí" y se detiene.
El dispositivo que permitió volver a revisar las cajas
La estructura inicial tenía un punto incómodo: por larga que fuera la frase, había que meterla entera en una sola caja. Si la casa tenía mucho para mudar y se usaba una sola caja, lo que se guardó primero se aplastaba. De ahí venía que, con frases largas, se olvidara la parte de más adelante.
La solución fue no juntar todo en una caja. Se dejaron guardados, por separado, los bloques de números que el codificador armó para cada fragmento, y cada vez que el decodificador escribe un fragmento, elige y revisa el que le hace falta en ese momento. Ese dispositivo es la atención.
Al traducir "ayer un amigo me dio el libro que leí hoy", al escribir el tiempo verbal se revisa la caja de "ayer", y al escribir el objeto se revisa la caja de "libro". Como solo se abren las cajas necesarias, la frase no se vuelve borrosa aunque sea larga.
Hoy también se usa un solo lado
Según la tarea, hace falta un lado distinto. Para captar el sentido de una frase no hace falta el lado que escribe: en clasificar o buscar, donde la respuesta es corta y cerrada, alcanza con un modelo que solo tiene codificador.
Al revés, para conversar o redactar, donde se sigue escribiendo sin parar, se usa un modelo que solo tiene decodificador. La pregunta que llega como entrada se trata como si ya estuviera escrita, y solo hace falta seguir desde ahí. La mayoría de los modelos conversadores de hoy son de este tipo.
La estructura con los dos lados sigue viva donde la entrada y la salida son claramente distintas: traducir o resumir, cuando el idioma o el largo del texto que entra y el que sale se separan mucho.
3Con más precisión
El codificador convierte los fragmentos de entrada en bloques de números que ya reflejan el contexto; el decodificador toma esos bloques junto con lo que lleva escrito y entrega la probabilidad del fragmento siguiente. Dentro del decodificador hay un canal para mirar su propia salida y otro para mirar al codificador, por separado, y a ese proceso de tapar lo que viene después se le llama enmascarado.
La analogía también tiene sus límites. Una caja de mudanza se puede abrir y cerrar sin que cambie nada, pero el bloque de números que arma el codificador ya no guarda el texto original: no se puede revertir para recuperarlo tal cual. Además, las cajas se terminan de empacar y recién ahí sale el camión, pero el decodificador vuelve a mirar al codificador cada vez que fabrica un fragmento nuevo: no es una entrega única que termina ahí.
El codificador-decodificador no es el nombre de un modelo concreto, sino una manera de acomodar las piezas. Se puede armar tanto con redes recurrentes como con un transformer, y esa flexibilidad es justamente lo que le permitió seguir vigente incluso cuando cambió la arquitectura de fondo.
4Pruébalo
5Malentendidos comunes
Es fácil pensar que el codificador guarda la frase como un archivo comprimido, pero en realidad deja solo el sentido, de una forma que no permite reconstruir el original, así que no hay una "descompresión" que lo devuelva.
Es fácil pensar que el decodificador recibe una sola vez el resultado del codificador, pero en realidad vuelve a consultarlo cada vez que fabrica un fragmento nuevo.
Es fácil pensar que todo modelo de lenguaje tiene codificador y decodificador, pero en realidad buena parte de los modelos conversadores de hoy están hechos solo con decodificador.
7Resumen en una línea
En resumenEl codificador-decodificador separa el lado que guarda la entrada dejando solo el sentido, del lado que mira ese sentido y escribe la frase nueva un fragmento a la vez.
¿Has visto un error o tienes una analogía mejor? Sugerir una corrección · Última actualización2026-09-02