Nueva Siri en camino: por qué Apple todavía tiene dificultades para ponerse al día

Cuando Tim Cook anunció “Apple Intelligence”, el discurso era simple: privacidad. A diferencia de OpenAI o Google, que quieren absorber sus datos en sus enormes granjas de servidores, Apple quiere que la IA viva en su teléfono. Quieren que el “cerebro” esté en su bolsillo.

Suena noble. Suena seguro. Pero hay una razón por la que nadie más lo ha hecho todavía. No tiene nada que ver con la calidad del código. Se trata exclusivamente de Termodinámica y Ancho de banda de memoria.

Apple no está luchando contra Google; Están luchando contra la física.

El gancho: el problema de las “fichas”

Comprender por qué Siri sigue siendo tonta en 2025 requiere analizar el ancho de banda de la memoria. Un LLM es simplemente un archivo gigante de pesos (números). Un modelo de 7 mil millones de parámetros (cuantizado int4) tiene aproximadamente 4 GB de tamaño.

Para generar una sola palabra (token), el procesador tiene que leer ese archivo completo de 4GB de los chips de RAM en las Unidades de Computación. ¿Para generar una oración de 20 palabras? Tiene que leer ese archivo de 4 GB 20 veces.

Buceo profundo: El muro de la memoria

Este es el “cuello de botella del ancho de banda de la memoria”.

• El problema: La CPU de tu teléfono es rápida (3 GHz). Pero la memoria de tu teléfono (LPDDR5X) es muy lenta.
• Las matemáticas: Un iPhone 16 Pro tiene un ancho de banda de memoria de aproximadamente 50 GB/s.
• La realidad: Si tienes que mover un modelo de 4 GB 20 veces por segundo (para obtener la velocidad de lectura humana), necesitas 80 GB/s de ancho de banda solo para la IA.

Eso deja cero ancho de banda para el resto del teléfono. Esto lleva a “UI Jank”. Si la IA está hablando, el desplazamiento tartamudea. El teléfono se siente roto.

La envolvente térmica: 5 vatios frente a 500 vatios

Una GPU Nvidia H100 en un centro de datos consume 700 vatios. Tiene refrigeración líquida masiva para evitar que se derrita. Un iPhone tiene un presupuesto térmico total de aproximadamente 5 vatios. Si sube, la batería se agota en 45 minutos y el estuche se calienta demasiado para sostenerlo.

Los ingenieros de Apple están intentando comprimir un algoritmo de 700 vatios en una envolvente de 5 vatios. Lo están haciendo mediante una cuantificación extrema (hacer el modelo más tonto para hacerlo más pequeño) y una “decodificación especulativa” (adivinando 3 palabras por delante).

Pero el calor no miente. Las primeras pruebas de iOS 19 muestran que el uso intensivo de IA atenúa el brillo de la pantalla después de 3 minutos. Eso es estrangulamiento térmico que protege la batería.

Historia contextual: La tacañería de RAM vuelve a morder

Durante años, Apple fue tacaña con la RAM. Un iPhone tendría 6 GB mientras que un Samsung Galaxy tendría 12 GB. Apple argumentó: “¡El sistema operativo es eficiente! No necesita más RAM”. Tenían razón: para aplicaciones. Se equivocaron: para la IA.

Debido a que el modelo de IA tiene que permanecer “caliente” (cargado en RAM) para responder, ese modelo de 4GB consume el 50% de la memoria del teléfono.

• El resultado: Cuando le haces una pregunta a Siri, el teléfono tiene que “matar” Instagram y Safari para dejar espacio para el cerebro de Siri.
• La experiencia del usuario: Vuelves a Safari y la página se vuelve a cargar.

Es por eso que se rumorea que el iPhone 18 saltará a 12 GB o 16 GB de RAM. No es para juegos. Es para mantener vivo el cerebro de la IA sin matar las otras aplicaciones.

Análisis prospectivo: el compromiso de la “nube privada”

Apple sabe que el dispositivo está perdiendo la guerra de la calidad. Un modelo de parámetros de 3B en un teléfono nunca será tan inteligente como un modelo de parámetros de 1TB en la nube (GPT-4).

Es por eso que crearon Private Cloud Compute (PCC). Es una admisión de la derrota de la física. Cuando su solicitud es demasiado difícil para el teléfono (límites térmicos/de memoria), la envía a una granja de servidores Apple Silicon. Apple jura que los datos se eliminan instantáneamente. Los usuarios deben confiar en ellos.

Pero el futuro no es puramente “en el dispositivo”. Es híbrido.

• Tiny Brain (teléfono): Maneja “Encender las luces”, “Leer este texto”, “Configurar un cronómetro”.
• Big Brain (Nube): Maneja “Escribir un correo electrónico al jefe”, “Resumir este PDF”, “Generar una imagen”.

El resultado final

La nueva Siri no tiene problemas porque los ingenieros de Apple olvidaron cómo codificar. Está teniendo dificultades porque la definición de “Computación” cambió de la noche a la mañana de “Burst” (abrir una aplicación) a “Sostenida” (generar tokens). Hasta que cambien la química de la batería o la física de la memoria, el sueño de una IA súper inteligente y totalmente privada en su bolsillo seguirá siendo solo eso: un sueño.