IA en el dispositivoOn-Device AI
La IA que procesa todo dentro del propio dispositivo
- La IA en el dispositivo decide dentro del propio aparato, sin preguntarle a ningún servidor.
- Como no hay ida y vuelta, la respuesta llega al instante, y funciona igual donde no hay señal.
- La foto o la voz que entra no sale del dispositivo, lo que la hace más segura para la privacidad.
- A cambio, tiene límites de tamaño y de energía. Solo entran modelos bien recortados, y si se usa mucho rato se calienta.
- Los dispositivos actuales suelen traer una pieza dedicada exclusivamente a este tipo de cálculo.
Contenido
1La analogía
Para resolver una cuenta difícil recurriendo a otra persona hace falta llamar o conectarse a algo. Pero la calculadora que llevas en la mochila no necesita nada de eso. Ya sea en un avión o bajo tierra sin señal, apenas apretás el botón aparece la respuesta. Y como el número que apretaste no se envía a ningún lado, se puede calcular tranquilo hasta un monto que no querrías mostrarle a nadie.
Claro que la calculadora no lo resuelve todo. Al ser tan chica, lo que puede hacer está limitado, y si hay que manejar una planilla de miles de filas, terminas yendo igual a una máquina más grande. Aun así, la mayoría de las cuentas del día a día se resuelven de sobra con este aparato pequeño.
Que el propio dispositivo decida por sí mismo funciona igual que esa calculadora. Eso es la IA en el dispositivo.
2En detalle
Qué significa que no haya ida y vuelta
Cuando se consulta a un servidor, la petición sale del dispositivo, llega hasta una máquina en algún otro lugar y vuelve con la respuesta. Por corto que sea ese viaje, toma tiempo, y si la señal es débil, se multiplica varias veces.
Al procesarlo dentro del dispositivo, ese tramo entero desaparece. Que aparezca un recuadro apenas se apunta la cámara, o que salgan subtítulos en el instante en que se habla, solo es posible con este método. Y funciona igual en el subte o en la montaña, donde no hay señal.
También queda protegido de lo que le pase al servidor. Aunque el servicio se detenga un momento o se sature de peticiones y se ponga lento, lo que corre dentro del propio dispositivo sigue funcionando igual.
Hay una pieza dedicada solo a esto
Los dispositivos actuales traen una pieza dedicada exclusivamente a este tipo de cálculo. Aparte de la que dibuja la pantalla o hace correr los programas, es un componente hecho para procesar rápido, con muy poca energía, un tipo de cálculo con una forma fija.
Gracias a eso se puede tener siempre encendido sin gastar mucha batería. Que el álbum de fotos agrupe caras solo, que el teclado sugiera la palabra siguiente o que se limpie el ruido durante una llamada son cosas que corren en silencio sobre esta misma pieza.
Aun así, el límite es claro. Aunque sea una pieza dedicada, comparada con una máquina de servidor sigue siendo muy chica, así que no se le puede pedir cualquier cosa.
Hay que achicarlo para que entre
Para que entre en el dispositivo, el modelo tiene que reducirse. A veces se usa directamente un modelo hecho pequeño desde el principio, y otras veces se traslada el criterio de un modelo grande a uno chico.
También se usa mucho volver más gruesa la escala de los números para reducir el volumen. Se pierde algo de detalle muy fino, pero el tamaño baja a una fracción y la velocidad sube. La mayoría de los modelos que entran en un dispositivo pasan por este ajuste.
Un modelo así de recortado rinde de sobra en tareas fijas, pero se tambalea fácil ante pedidos difíciles de un tipo que nunca vio antes. Por eso es importante decidir qué se le deja al dispositivo y qué no.
Repartir el trabajo entre el dispositivo y el servidor
Un servicio real casi nunca elige uno solo de los dos. Lo liviano se procesa al instante en el dispositivo, y solo cuando se detecta un pedido difícil se lo manda al servidor. Es como estar rápido y silencioso la mayor parte del tiempo, y salir hacia afuera únicamente cuando hace falta.
Es fácil confundirlo con la IA del navegador, pero el criterio que los separa es dónde está integrada. La IA del navegador arranca cuando se abre una página web y solo usa la parte del dispositivo que el navegador le permite. La IA en el dispositivo está integrada en la función misma del aparato, así que ya está corriendo apenas se enciende la cámara o se toca el teclado.
También es distinta de instalar un programa en tu computadora para correr un modelo grande. En ese caso lo eliges e instalas tú; en cambio, la IA en el dispositivo ya viene incluida al comprar el aparato.
3Con más precisión
La pieza dedicada dentro del dispositivo es un circuito hecho para procesar, con poca energía, el tipo de cálculo que aparece una y otra vez en una red neuronal. Para usarla hace falta convertir el modelo al formato del dispositivo y ajustar la escala de los números. Cada vez es más común, además, que el dispositivo aprenda un poco por su cuenta: se junta solo el resultado de lo aprendido en cada aparato para mejorar el conjunto, mientras los datos en sí se quedan en el dispositivo.
La analogía también tiene sus límites. La calculadora da siempre la misma respuesta exacta si se aprieta el mismo botón, pero el modelo dentro del dispositivo elige por probabilidad, así que su juicio puede tambalear o fallar hasta frente a la misma escena. La función de la calculadora es la misma desde el día que se compró, pero el modelo del dispositivo puede cambiar en silencio con una actualización. Y que algo corra dentro del dispositivo no significa que sea seguro por sí solo: el juicio puede hacerse adentro, pero nada impide que la aplicación mande el resultado hacia afuera, así que conviene revisar también los avisos y los permisos.
4Pruébalo
5Malentendidos comunes
Es fácil pensar que la IA en el dispositivo no necesita internet para nada, pero en realidad sigue haciendo falta conexión para actualizar el modelo o para mandar afuera un pedido difícil.
Es fácil pensar que, por correr en el dispositivo, es segura de por sí, pero en realidad hay aplicaciones que deciden adentro y aun así mandan el resultado hacia afuera, así que hay que revisarlo.
Es fácil pensar que lo que corre en el dispositivo rinde mal, pero en realidad, en tareas fijas como ordenar caras o generar subtítulos, funciona tan bien como en un servidor.
7Resumen en una línea
En resumenLa IA en el dispositivo responde al instante desde dentro del aparato, como la calculadora de la mochila, y a cambio de esa rapidez y silencio carga con los límites de tamaño y energía.
¿Has visto un error o tienes una analogía mejor? Sugerir una corrección · Última actualización2026-09-02