Logits

La puntuación en bruto de cada candidato antes de ser probabilidad

Puntos clave
  • Los logits son la puntuación en bruto que el modelo le pone a cada candidato, justo antes de elegir la respuesta.
  • No suman 100% y pueden salir en negativo. No son, en sí mismos, una probabilidad.
  • Importa más la diferencia entre candidatos que el tamaño absoluto de la puntuación. Si la diferencia es grande, la respuesta queda casi decidida.
  • El cálculo que convierte esta puntuación en probabilidad es el softmax. El orden no cambia.
  • Ajustes como la temperatura o las palabras prohibidas actúan casi siempre sobre este marcador, antes de convertirlo en probabilidad.
Contenido

1La analogía

En el taller de reparaciones del barrio hay objetos rotos alineados sobre la mesa. Para saber qué falla, el dueño pasa un medidor por cada pieza y anota, tal cual, cuánto se movió la aguja. Ese papel no es algo que se le enseñe al cliente. Hay casillas con números altos y otras en negativo, y una sola línea no dice nada por sí sola. El dueño usa ese papel para una sola cosa: comparar qué pieza es más sospechosa que otra.

Ese papel es el marcador que el modelo fabrica justo antes de elegir el siguiente trozo. A cada candidato le corresponde un número, que no suma 100 en total y que trae mezclados números negativos. Aun así, con solo mirar ese papel se sabe qué candidato va por delante.

Para decir "esta pieza tiene tantos por ciento de probabilidad" hace falta un cálculo más. Ese cálculo es el softmax.

2En detalle

El último paso entrega una puntuación por candidato

El modelo va trabajando los valores mientras hace pasar el texto, y al final hace un cálculo más para producir una fila de números. Esa fila tiene tantas casillas como trozos conoce el modelo. Si la lista de trozos tiene decenas de miles, también salen decenas de miles de puntuaciones.

Cada casilla indica "cuánta pinta tiene de que este trozo venga después". Un valor alto significa que se ve probable; un valor bajo o negativo, que no encaja en esa posición.

Estos números no están hechos para que los lea una persona. Son, tal cual, el resultado de un cálculo interno del modelo, así que no tienen ni escala ni punto de referencia propios.

La puntuación en sí todavía no es probabilidad

Los logits se diferencian de una probabilidad en tres puntos. No suman 1, pueden salir en negativo y no tienen límite superior ni inferior. Por eso, con una sola puntuación, no se puede decir "cuánto confía el modelo en esta respuesta".

Lo que importa es la distancia entre candidatos. Si el primero y el segundo están muy separados, la respuesta está casi decidida; si están muy juntos, cualquiera de los dos resultaría natural. Sumar el mismo valor a todas las puntuaciones no cambia esta distancia, así que tampoco cambia el resultado.

El cálculo que lo pasa a probabilidad va aparte

Convertir el marcador en probabilidad requiere colocar todo el conjunto de golpe y repartirlo. Con la puntuación de un solo candidato no se puede decidir su porcentaje; hay que mirar también qué puntuación sacaron los demás. Si los demás candidatos tienen puntuaciones bajas, la misma puntuación se convierte en una probabilidad alta; si todos están altos y parecidos, la probabilidad se reparte en trozos pequeños.

Esta conversión no toca el orden. El candidato que iba primero en el marcador sigue primero al convertirlo en probabilidad. La probabilidad no se fabrica para decidir el orden, sino para pasarlo a una escala que una persona pueda leer y comparar. También hace falta la forma de probabilidad para elegir al azar y dar variedad a la respuesta.

Casi todos los mandos tocan este marcador

Los ajustes que cambian el carácter de la respuesta suelen intervenir antes de que la puntuación se convierta en probabilidad. Subir la temperatura estrecha la distancia entre las puntuaciones de los candidatos, así que, después de pasar a probabilidad, hasta los candidatos de abajo se vuelven elegibles. Bajarla ensancha la distancia, y el primero queda casi asegurado.

La función que impide que salga una palabra concreta también trabaja aquí. Si se aprieta hacia un valor muy bajo la puntuación de ese trozo, se queda prácticamente en cero incluso después de pasar a probabilidad. El ajuste que evita repetir la misma palabra también recorta poco a poco la puntuación del trozo que ya salió.

Por eso queda claro dónde mirar cuando una respuesta sale rara: se puede separar si el problema está en la puntuación que calculó el modelo, o en el ajuste que se le aplicó después.

3Con más precisión

Los logits son la fila de números, del tamaño de la lista de trozos, que entrega el último cálculo del modelo. Como son el valor previo a convertirse en probabilidad, se dice que no están normalizados. El nombre viene de una función usada antes en estadística para pasar probabilidades a puntuación, y hoy se ha fijado como el nombre de la puntuación justo antes de la probabilidad.

La analogía también tiene sus costuras. El dueño del taller sabe con qué criterio anotó cada número, pero en la puntuación del modelo no queda ningún fundamento así: con solo mirar los números no se sabe por qué un trozo recibió una puntuación alta. Además, el medidor se puede pasar por cada pieza por separado, pero los logits salen todos juntos, como un solo bloque de candidatos. Y que una puntuación sea alta no significa que sea cierta: las expresiones vistas muchas veces tienden a sacar puntuación alta, así que también pasa que una frase incorrecta reciba una puntuación alta. Esta propiedad se mantiene incluso después de convertir la puntuación en probabilidad, así que una probabilidad alta no se debe leer directamente como confiabilidad.

4Pruébalo

5Malentendidos comunes

  • Es fácil pensar que los logits ya son la probabilidad, pero en realidad son una puntuación en bruto que ni suma 1 ni evita los negativos.

  • Es fácil pensar que una puntuación alta significa una respuesta correcta, pero en realidad solo indica que encaja bien en ese lugar, algo aparte de si es cierta.

  • Es fácil pensar que al convertirlos en probabilidad cambia el orden, pero en realidad el orden se mantiene igual y solo cambia la escala.

7Resumen en una línea

En resumenLos logits son el marcador en bruto que el modelo anota para cada candidato, y a continuación viene el cálculo que traduce esa puntuación a una probabilidad que una persona pueda leer.

¿Has visto un error o tienes una analogía mejor? Sugerir una corrección · Última actualización2026-09-02