Función de activaciónActivation Function
La función con umbral que decide si la neurona deja pasar la señal
- La función de activación es la última puerta que decide si la neurona deja salir la señal, y con qué fuerza, después de sumar y multiplicar.
- Lo esencial es que no es una línea recta. Ese quiebre es lo que permite trazar límites complejos que una línea recta no puede separar.
- Sin esta función, apilar capas no sirve de nada: el conjunto se reduce a una sola capa. Es lo que le da sentido a la profundidad.
- La más usada hoy anula todo lo que cae bajo un umbral y deja pasar el resto tal cual.
- La elección cambia mucho la velocidad y la estabilidad del entrenamiento, y la función de la última capa no es la misma que la de las capas intermedias.
Contenido
1La analogía
En el pasillo de un edificio de apartamentos, la luz del sensor de movimiento siempre está apagada. Si alguien pasa muy lejos y apenas se mueve, la luz no reacciona. Solo cuando alguien se acerca lo suficiente, se enciende de golpe. Y una vez encendida, ilumina el pasillo hasta que baja de nuevo.
Esa luz tiene una regla fija. Un movimiento más débil que el límite no la enciende, por muchas veces que se repita. Pero en cuanto se supera ese límite, reacciona al instante. Como ignora las señales débiles, no se enciende y apaga cada vez que una sombra se mueve con el viento.
La función de activación es esa regla de la luz. Cuando la neurona suma las entradas según su peso y el resultado no llega al umbral, no envía ninguna señal; si lo supera, transmite lo que sobra a la siguiente neurona. No deja pasar la señal sin más: la filtra antes.
2En detalle
Bajo el umbral se anula; por encima, pasa igual
Hoy, la función más usada en las capas intermedias es muy simple. Si el valor que entra es menor que 0, lo convierte en 0; si es mayor, lo deja pasar sin tocarlo. Se llama ReLU.
Funciona bien a pesar de su sencillez. El cálculo es solo una comparación, así que es rapidísimo, y cuando el valor crece la señal no se debilita: pasa entera. Además, como muchas neuronas de una misma capa terminan enviando 0, solo quedan activas las que realmente participan en el cálculo, y eso aligera el conjunto.
Antes se usaba una curva suave
Durante un tiempo se usó mucho una función que, por muy grande que fuera la entrada, siempre comprimía el resultado entre 0 y 1. La sigmoide es la más conocida. Como su salida cabe entre 0 y 1, era fácil leerla como una probabilidad.
El problema apareció al entrenar. Cuando el valor se hace un poco grande o pequeño, la curva se vuelve casi plana: aunque la entrada cambie, la salida apenas se mueve. Al devolver el error hacia las capas anteriores, la señal se reduce cada vez que atraviesa este tramo plano, y a las primeras capas casi no les queda nada que aprender. A esto se le llama desvanecimiento del gradiente, y fue lo que apartó a la sigmoide de las capas intermedias cuando los modelos empezaron a apilarse en profundidad.
Sin ella, la profundidad es en vano
¿Qué pasaría si quitamos la función de activación y solo encadenamos multiplicaciones y sumas? Por muchas veces que se repita esa operación, el conjunto siempre se reduce a una única multiplicación con una única suma. Apilar diez capas o cien capas da exactamente lo mismo que un modelo de una sola capa.
En cuanto aparece un quiebre en medio, todo cambia. Cada capa dobla y recorta el resultado de la anterior y vuelve a combinarlo, así que cuantas más capas hay, más complejas son las formas de límite que se pueden trazar. De ahí sale la capacidad de una red para separar datos que un corte recto jamás podría dividir.
La última capa usa una función distinta
La función de las capas intermedias existe para pasar bien la señal a la siguiente capa, pero la de la última capa tiene otro propósito: dejar la respuesta en una forma que una persona pueda leer. Por eso hacen cosas distintas.
Si el problema es elegir entre dos opciones, se usa una función que convierte el resultado en algo parecido a una probabilidad entre 0 y 1. Si hay que elegir entre varios candidatos, se usa softmax, que reparte los valores de todos los candidatos para que sumen 1. En cambio, en un problema donde hay que acertar un número —el precio de una vivienda, por ejemplo— no se aplica ninguna función al final: el valor calculado sale tal cual.
El criterio es si el entrenamiento funciona bien
Cada vez que aparece una función nueva, lo que se comprueba es si, en las mismas condiciones, el entrenamiento es más rápido y más estable. Existen variantes que dejan una fracción mínima por debajo de 0 en vez de anularlo del todo, y otras que suavizan la zona cercana al umbral.
Las diferencias suelen ser pequeñas. Por eso, si no hay una razón especial, en las capas intermedias se usa la función más simple y rápida, y solo se prueban otras candidatas cuando el entrenamiento no avanza bien.
3Con más precisión
La función de activación es la función no lineal que se aplica al final del cálculo de una neurona. Multiplicar por los pesos, sumar y añadir el sesgo son operaciones lineales, así que sin este paso el resultado de varias capas juntas se reduce a una sola transformación lineal. Que una red pueda trazar límites curvos se debe a esta no linealidad.
La analogía de la luz también tiene sus límites. La luz solo tiene dos estados, encendida o apagada, pero la función de activación más usada transmite también la intensidad después de encenderse: lo que supera mucho el umbral sale con fuerza, y lo que lo supera por poco sale débil. Además, la luz tiene un único umbral fijo, mientras que el punto en el que se activa una neurona no lo fija la función misma, sino el sesgo.
Para poder entrenar, esta función necesita otra condición: hace falta poder calcular su pendiente para devolver el error hacia atrás. En el punto donde se quiebra en 0, la pendiente no está definida, pero en la práctica se fija un valor de un lado y se sigue adelante. Como el valor rara vez cae exactamente en 0, esto no supone un problema real para el entrenamiento.
4Pruébalo
5Malentendidos comunes
Es fácil pensar que la función de activación es solo un interruptor que enciende o apaga la neurona, pero en realidad también decide con qué fuerza sale la señal una vez activada.
Es fácil pensar que da igual qué función se use, pero en realidad, en modelos profundos, elegir mal puede hacer que el entrenamiento no avance en absoluto.
Es fácil pensar que la función de activación fija el punto en el que se activa la neurona, pero en realidad es el sesgo el que desplaza ese punto hacia adelante o hacia atrás.
7Resumen en una línea
En resumenLa función de activación es la puerta con umbral que decide si la neurona deja salir lo que sumó, y ese quiebre es lo que le da sentido a apilar capas.
¿Has visto un error o tienes una analogía mejor? Sugerir una corrección · Última actualización2026-09-02