¿Qué es Arquitectura del modelo? — una analogía

1La analogía

Al desplegar el plano de un edificio, lo que aparece ahí está fijado de antemano: hasta qué piso se construye, cómo se reparten las habitaciones en cada planta, entre qué pisos conectan las escaleras y el ascensor. Ese plano es la arquitectura del modelo.

Dos edificios construidos con el mismo plano pueden convertirse en viviendas completamente distintas si cambian los muebles y las cosas que hay dentro. Con los modelos pasa igual. El plano puede ser idéntico, pero si los números que dejó el entrenamiento son distintos, un modelo puede terminar traduciendo y otro resumiendo.

Los muebles se cambian cuando se quiera, sin tocar nada más. Pero mover una pared obliga a reconstruir buena parte del edificio entero. Cambiar la arquitectura de un modelo es exactamente eso.

2En detalle

Tres cosas que quedan escritas en el plano

Lo primero es el número de capas. Se decide si se apilan pocas capas o si se llega a decenas o cientos. Cuantas más capas hay, más reglas complejas se pueden captar, pero el entrenamiento se vuelve más delicado.

Lo segundo es qué lleva cada capa. Hay piezas de carácter distinto: capas que recorren pequeños fragmentos de una imagen, capas que hacen que los fragmentos de una frase se observen entre sí, capas que simplemente ajustan valores antes de pasarlos. Lo tercero es la forma de conectar: si se sube en línea recta, si se abren atajos que saltan varias capas, o si el camino se divide en dos ramas.

El plano y los muebles son cosas distintas

Las dos ideas que más se confunden al hablar de modelos son la arquitectura y los pesos. La arquitectura es el esqueleto vacío; los pesos son los números que el entrenamiento coloca dentro. Con solo la arquitectura no se puede dar ninguna respuesta, y con solo los pesos no se sabe dónde colocarlos.

Cuando se descarga un modelo publicado en internet, lo que suele venir en el archivo son los pesos. La arquitectura queda escrita aparte, en el código o en el archivo de configuración que define ese modelo. Los dos tienen que coincidir exactamente para que el modelo funcione. Es como si llegaran los muebles en un camión sin ningún plano: hace falta el plano que diga en qué habitación va cada cosa.

La forma de los datos decide la arquitectura

En una imagen, los puntos vecinos suelen estar muy relacionados entre sí. Por eso funciona bien una arquitectura que recorre pequeñas ventanas cuadradas desplazándose por la imagen. Con una frase la cosa cambia: la primera palabra puede conectar directamente con la última, así que conviene una arquitectura donde incluso fragmentos lejanos se observen entre sí.

En el sonido importa el orden en el tiempo, y en las tablas de números suele bastar con una arquitectura mucho más simple. Elegir la arquitectura es avisarle al modelo, de antemano, qué propiedades tienen los datos. Con una arquitectura bien ajustada se llega a buenos resultados con mucho menos entrenamiento, usando los mismos datos.

Lo que discuten quienes diseñan la arquitectura

La primera decisión es si apilar en profundidad o extender en anchura. Ser profundo permite atravesar muchos pasos y captar reglas complejas; ser ancho permite manejar más información de golpe en una sola capa. A igual tamaño total, cuál conviene depende del problema.

No solo importa el rendimiento. También cuentan la rapidez con la que debe llegar la respuesta, si cabe en la memoria gráfica y cuánto cuesta entrenarlo. Un modelo que debe correr en un teléfono y otro que corre en un centro de datos parten de planos distintos desde el principio.

Que cambiar la arquitectura impida trasladar lo aprendido es otra carga importante: en cuanto se mueve una pared, los muebles que ya estaban colocados dejan de encajar. Por eso es habitual reutilizar un plano ya probado y solo agrandarlo o reducirlo. Traer un plano nuevo requiere una ventaja lo bastante clara.

3Con más precisión

La arquitectura es el esqueleto que fija el camino que sigue el cálculo. Junto con el número de capas se definen también el ancho de números que maneja cada capa y en cuántas ramas se divide el camino; estos valores no cambian con el entrenamiento, así que se clasifican como algo que la persona debe fijar de antemano.

La mayoría de los grandes modelos de lenguaje actuales usan familias de arquitectura bastante parecidas entre sí. Por eso las diferencias de rendimiento suelen deberse más al tamaño del modelo y a la cantidad y calidad de los datos de entrenamiento que a lo novedoso de la arquitectura. Esto no significa que la arquitectura no importe, sino que, una vez asentada hasta cierto punto, otros factores pesan más.

La analogía también tiene sus límites. Un edificio, una vez terminado, tiene el plano fijo, pero un modelo no siempre. A veces se recorta parte de las capas para usarlas solas, a veces se añaden piezas pequeñas a una arquitectura existente para que aprenda una tarea nueva, y a veces se recortan más tarde las conexiones poco usadas para aligerarlo.

4Pruébalo

5Malentendidos comunes

Es fácil pensar que basta con una buena arquitectura para que el rendimiento sea bueno, pero en realidad, dentro de arquitecturas ya bastante asentadas, la cantidad y calidad de los datos y el tamaño del modelo suelen pesar más en el resultado.
Es fácil pensar que un solo archivo de modelo contiene también la arquitectura, pero en realidad muchas veces solo trae los números, y la arquitectura se gestiona aparte en código o configuración.
Es fácil pensar que cuantas más capas, más listo se vuelve el modelo, pero en realidad, si la señal de aprendizaje no llega hasta las capas más profundas, el resultado puede incluso empeorar.

7Resumen en una línea

En resumenLa arquitectura del modelo es el plano que decide cómo se apilan y conectan las capas, y los números que llenan ese plano los decide el entrenamiento.

¿Te ayudó esta analogía?

¿Has visto un error o tienes una analogía mejor? Sugerir una corrección · Última actualización2026-09-02