Embedding
El significado de una palabra escrito como una posición numérica
- El embedding traduce el significado de una palabra o una frase en un conjunto de números que marca una posición. Si el significado se parece, la posición también queda cerca.
- Nadie decidió esa posición a mano. Se fijó sola durante el entrenamiento, al observar en textos enormes qué palabras aparecen en contextos parecidos.
- Ningún número tiene nombre propio. Lo que importa es la distancia y la dirección respecto a los demás, no el valor en sí.
- Gracias al embedding, se puede encontrar algo con el mismo significado aunque las letras sean distintas. Por eso la búsqueda y las recomendaciones cambiaron tanto.
- No solo las palabras: frases, documentos, imágenes y sonidos también pueden recibir una posición de esta misma manera.
Contenido
1La analogía
Un poste indicador de sendero no lleva solo el nombre del lugar. Lleva también la distancia hasta unos cuantos puntos de referencia, algo como «Manantial 0,6, Cima 2,4». Con esos números basta para saber si dos postes están cerca o lejos uno del otro, sin desplegar ningún mapa: si la combinación de números se parece, el lugar real también está cerca. El embedding hace justo eso con las palabras: les cuelga números de poste indicador.
El número del poste no tiene nada que ver con el nombre del lugar. El nombre «Mirador de Piedra» no dice dónde está, pero la distancia sí lo dice todo. Con el embedding pasa lo mismo: no anota la forma de las letras, sino la posición donde cae el significado.
Por eso dos puntos con nombres completamente distintos pueden ser vecinos si sus números se parecen. «Móvil» y «smartphone» son justamente esos vecinos.
2En detalle
Si el significado se parece, la posición queda cerca
En el espacio que crea el embedding, la distancia es directamente el grado de parecido en el significado. «Manzana» y «pera» quedan pegadas, y «manzana» y «metro» quedan lejos. Las frutas se agrupan en una zona y los medios de transporte en otra.
Esta propiedad es potente porque permite calcular la relación entre dos expresiones que no comparten ni una letra. La búsqueda antigua solo encontraba un documento sobre «reembolso» si escribías exactamente esa palabra. Con embedding, escribir «quiero que me devuelvan el dinero» también trae la guía de reembolsos, porque las dos expresiones caen cerca.
La forma habitual de medir esa distancia es fijarse en cuánto apuntan dos posiciones hacia el mismo lado desde el origen. La dirección refleja mejor el significado que la longitud.
La posición se fijó sola durante el entrenamiento
Nadie escribió unas coordenadas diciendo «la manzana va aquí, la pera al lado». El método es simple: se recorre una cantidad enorme de texto y, una y otra vez, se acercan entre sí las palabras que aparecen en posiciones parecidas.
Cuando dos palabras aparecen una y otra vez en el mismo tipo de frase —«pelé la manzana», «pelé la pera»—, el entrenamiento va acercando sus posiciones a medida que avanza. Al contrario, las palabras que casi nunca comparten contexto se alejan. Repetir este tira y afloja miles de veces hace que lo parecido en significado termine agrupado por sí solo.
Por eso el embedding queda impregnado del carácter de los textos con los que se entrenó. Sesgos como colocar cierta profesión cerca de cierto género también entran por este mismo camino.
Ningún número tiene nombre propio
Los números de un embedding suelen ser cientos o miles. Sería cómodo que el primero significara «dulzura» y el segundo «tamaño», pero no funciona así. Cada posición es un eje que fijó el entrenamiento por su cuenta, y a una persona le resulta difícil ponerle nombre.
Aun así, la dirección sí guarda significado. Es famosa la observación de que, partiendo de «rey», si se resta la dirección hacia lo masculino y se suma la dirección hacia lo femenino, se llega cerca de «reina». Algo parecido pasa con la dirección que va del nombre de un país a su capital: se repite de forma similar en varios países.
Esta relación no siempre encaja a la perfección. Muchas veces se muestran los ejemplos que mejor funcionan, y con palabras poco frecuentes no se cumple tan bien.
El mismo texto cambia de lugar según el contexto
Los primeros métodos daban una única posición a cada palabra, así que «banco» del parque y «banco» de la esquina —el mueble para sentarse y la entidad financiera— terminaban en el mismo lugar.
El método actual necesita la frase completa para calcular la posición: mira las palabras de alrededor y calcula el lugar en el momento, así que el mismo texto cae en sitios distintos según el contexto. El «banco» de una noticia financiera y el «banco» de una escena de parque terminan muy alejados entre sí.
No solo el texto recibe una posición
También se le puede dar una posición a una frase entera o a un documento completo. Si metes un texto largo de una vez, sale un conjunto de números que resume su idea central. Si este cálculo se hace de antemano y se guarda, más tarde se puede buscar el documento por su significado.
Las imágenes y los sonidos también pueden compartir ese mismo espacio. Si se entrena para que una foto y la frase que la describe caigan en posiciones cercanas, se vuelve posible buscar una foto escribiendo texto, o encontrar la descripción que mejor le queda a una imagen.
3Con más precisión
El embedding consiste en hacer corresponder un elemento discreto —una palabra, por ejemplo— con un punto de un espacio vectorial continuo. El número de dimensiones suele ir de cientos a miles: cuanto mayor es, más matices caben, pero también crecen el espacio de almacenamiento y el cálculo necesario.
El entrenamiento suele apoyarse en el aprendizaje contrastivo: se acercan los pares de textos que se parecen y se alejan los pares sin relación, repitiendo esto tantas veces que la distancia final termina reflejando el significado.
El grado de parecido se mide casi siempre con la similitud coseno: cuanto más estrecho es el ángulo entre dos vectores, más se acerca el valor a 1. Al buscar, se seleccionan los documentos en orden descendente de ese valor.
Aquí la analogía cojea. La distancia de un poste de sendero es una longitud real sobre el terreno, verificable, con un punto de referencia fijo. En el embedding nadie fija cuál es ese punto de referencia, y el valor en sí no se puede comparar con el de otro modelo. Poner lado a lado números de dos modelos de embedding distintos y medir la distancia entre ellos no tiene ningún sentido: la comparación solo vale entre valores que produjo el mismo modelo.
4Pruébalo
5Malentendidos comunes
Es fácil pensar que basta con leer los números de un embedding para saber su significado, pero en realidad ningún número tiene nombre propio: el significado solo aparece en la distancia respecto a otros embeddings.
Es fácil pensar que la misma palabra siempre tiene el mismo embedding, pero en realidad los métodos actuales miran el contexto, así que una frase distinta le da una posición distinta.
Es fácil pensar que un embedding es un número neutral, pero en realidad conserva los sesgos del texto con el que se entrenó.
7Resumen en una línea
En resumenEl embedding traduce el significado de una palabra en números, como la distancia de un poste indicador, para poder encontrar lo que se parece en significado aunque las letras sean distintas.
¿Has visto un error o tienes una analogía mejor? Sugerir una corrección · Última actualización2026-09-02