Multiplicación de matricesMatrix Multiplication

El orden para llenar una sola casilla

Para llenar una casilla de la tabla nueva bastan dos filas: una de la primera tabla y una columna de la segunda. Se multiplica el primer valor de una con el primero de la otra, el segundo con el segundo, y así hasta el final; luego se suman todos esos productos. Esa suma es el número que va en la casilla.

Por eso el alto de la tabla nueva coincide con el número de filas de la primera tabla, y su ancho con el número de columnas de la segunda. Si hay treinta alumnos y se buscan dos datos, precio y calorías, el resultado es una tabla de treinta filas por dos columnas.

Las multiplicaciones necesarias para una sola casilla son tantas como la longitud de la fila y la columna emparejadas. Con cinco artículos en el menú son cinco multiplicaciones y cuatro sumas. El cálculo en sí es aritmética elemental, pero cuando hay muchas casillas, esa aritmética hay que repetirla un número de veces difícil de imaginar.

Una capa de la red es exactamente este cálculo

Una red neuronal recibe una fila de números y la convierte en otra fila de números. Esa conversión es una multiplicación de matrices. La fila de entrada hace de hoja de pedido, y los pesos que guarda la capa hacen de lista de precios. Cada columna de la tabla de pesos produce una casilla de la siguiente capa.

Los números de la tabla de pesos se fijaron durante el entrenamiento. Una vez terminado, esa tabla queda congelada. Cada vez que hacemos una pregunta, lo único que hace el modelo es pasar una fila de números nueva por esa tabla.

Si hay cien capas, este paso se repite cien veces: el resultado de una capa se convierte en la entrada de la siguiente. La atención y las convoluciones de los modelos de imagen, vistas por dentro, terminan siendo el mismo multiplicar y sumar en tamaños distintos.

El cálculo es fácil, lo que asusta es la cantidad

Que un modelo tenga miles de millones de pesos significa que la lista de precios tiene miles de millones de casillas. Cada vez que se procesa un fragmento hay que recorrerlas todas al menos una vez, así que para producir una sola línea de respuesta se hacen billones de multiplicaciones y sumas.

Una persona con calculadora tardaría toda una vida. Por eso el gasto de cómputo y la factura de electricidad siempre acompañan a las noticias sobre IA: al agrandar capas y tablas para mejorar el rendimiento, el número de multiplicaciones crece todavía más rápido.

Cada casilla va por su cuenta, por eso sirve la GPU

Por suerte este cálculo tiene una propiedad muy conveniente: ninguna casilla de la tabla nueva espera el resultado de la casilla de al lado. Quien calcula la primera fila y primera columna no necesita hablar con quien calcula la tercera fila y quinta columna.

Por eso se puede repartir el trabajo entre miles de calculadoras y hacerlo todo a la vez. Eso es justo lo que hace una GPU: no un aparato que resuelva cálculos difíciles, sino uno que hace muchísimos cálculos sencillos al mismo tiempo. La memoria gráfica se vuelve un problema frecuente porque hay que cargar la tabla entera de una vez.

Las formas tienen que encajar para poder multiplicar

Si la hoja de pedido tiene cinco columnas y la lista de precios tiene cuatro filas, no se pueden emparejar: sobra una sin pareja. Por eso el ancho de la primera tabla siempre debe coincidir con el alto de la segunda.

Ajustar el tamaño de las tablas capa por capa ocupa buena parte del trabajo al diseñar un modelo. El orden tampoco se puede cambiar a capricho: multiplicar la hoja de pedido por la lista de precios no da el mismo resultado que multiplicar la lista de precios por la hoja de pedido, cuando ni siquiera se puede hacer.