La startup PrismML acaba de sacudir el mundo de la inteligencia artificial en dispositivos con el lanzamiento de Bonsai 27B, un modelo de razonamiento de 27.000 millones de parámetros que, gracias a una técnica de compresión propia, ocupa menos de 4 GB de almacenamiento. Eso lo hace suficientemente ligero como para ejecutarse directamente en un iPhone, sin necesidad de conexión a la nube ni de hardware especializado. Lo más llamativo no es solo el tamaño, sino que la variante más pequeña conserva el 90% del rendimiento del modelo original, con puntuaciones en matemáticas y programación apenas afectadas. Y si eso no fuera suficiente, Apple estaría ya probando internamente esta tecnología de compresión, lo que podría cambiar radicalmente el panorama de la IA en dispositivos móviles.

Compresión sin sacrificar razonamiento: el reto que PrismML dice haber resuelto

Reducir un modelo de inteligencia artificial al tamaño de una aplicación convencional sin que pierda sus capacidades de razonamiento es uno de los problemas más difíciles del sector. Hasta ahora, las técnicas de cuantización y poda de modelos (proceso por el cual se eliminan o simplifican parámetros del modelo para reducir su tamaño) solían implicar sacrificios notables en tareas complejas como las matemáticas o la generación de código, precisamente las más exigentes para cualquier modelo de lenguaje. PrismML afirma haber dado con una fórmula que esquiva ese compromiso habitual: su tecnología de compresión consigue que Bonsai 27B, en su versión más compacta, quepa en menos de 4 GB y mantenga un 90% del rendimiento original en los benchmarks internos de la compañía.

Es importante matizar que los datos de rendimiento publicados son benchmarks propios de PrismML, no evaluaciones independientes. En el ecosistema de la IA, los resultados internos deben tomarse con cautela hasta que terceros los verifiquen. Dicho esto, el mero hecho de ejecutar un modelo de 27.000 millones de parámetros en hardware móvil de consumo ya es un logro técnico notable, independientemente del porcentaje exacto de rendimiento retenido. El modelo es además completamente abierto, lo que permitirá a investigadores y desarrolladores de todo el mundo auditarlo, adaptarlo y construir sobre él sin restricciones de licencia.

Especificaciones técnicas

A partir de la información disponible, estas son las características clave de Bonsai 27B:

  • Parámetros del modelo base: 27.000 millones (27B)
  • Tamaño comprimido (variante más pequeña): menos de 4 GB
  • Rendimiento retenido respecto al modelo original: ~90% según benchmarks internos de PrismML
  • Capacidades destacadas: razonamiento, matemáticas y generación de código
  • Licencia: completamente abierto (full open)
  • Compatibilidad de hardware demostrada: iPhone (dispositivos Apple con chip propio)
Un modelo de razonamiento de 27.000 millones de parámetros comprimido a menos de 4 GB: el tamaño de una app, la potencia de un sistema de IA de referencia.

Apple y la carrera por la IA en el dispositivo: contexto competitivo

La noticia de que Apple estaría probando la tecnología de compresión de PrismML no es un detalle menor. La compañía de Cupertino lleva años apostando por la IA en el dispositivo —on-device AI— como diferencial frente a los modelos que dependen de servidores en la nube. Sin embargo, en la percepción general del mercado, Apple ha ido por detrás de competidores como Google y Samsung en cuanto a la potencia y capacidad de sus funciones de inteligencia artificial integradas. Poder ejecutar un modelo de razonamiento de 27B parámetros directamente en un iPhone, con una calidad cercana al modelo completo, sería un salto cualitativo enorme para el ecosistema de Apple Intelligence.

En el ecosistema Android, Qualcomm y MediaTek llevan tiempo optimizando sus chips con NPUs (unidades de procesamiento neuronal) para ejecutar modelos de IA localmente, y Google ha desarrollado su propia línea de modelos Gemini Nano para dispositivos. La aproximación de PrismML es diferente: en lugar de diseñar el modelo desde cero para hardware móvil, toman modelos existentes y potentes, y los comprimen de forma agresiva sin destruir sus capacidades de razonamiento. Si esta técnica resulta tan efectiva como afirman y supera la validación independiente, podría convertirse en una capa de software fundamental para cualquier fabricante de chips o smartphones que quiera ofrecer IA avanzada sin depender de la nube.

¿Qué supone para el comprador hispanohablante?

De momento, Bonsai 27B es una tecnología orientada a desarrolladores e investigadores, no un producto de consumo con precio y fecha de lanzamiento concretos. No hay datos oficiales de precio ni de disponibilidad comercial para usuarios finales, por lo que cualquier cifra sería especulación. Lo que sí es razonable anticipar es que, si Apple integra esta tecnología de compresión en futuras versiones de su sistema operativo o en sus propios modelos de Apple Intelligence, el impacto llegará a los usuarios de iPhone y iPad de forma transparente, sin que tengan que hacer nada. Para desarrolladores en España y Latinoamérica, el hecho de que el modelo sea completamente abierto significa que ya pueden experimentar con él, adaptarlo a sus necesidades y construir aplicaciones sobre él sin barreras de licencia ni costes de API. Plataformas como Hugging Face son el lugar habitual donde encontrar este tipo de modelos para su descarga y prueba.

Nuestra valoración

Bonsai 27B es, en papel, uno de los avances más significativos en IA en el dispositivo de los últimos meses. La promesa de conservar el 90% del rendimiento de un modelo de 27B parámetros en menos de 4 GB es exactamente el tipo de salto que la industria necesita para que la IA on-device deje de ser un truco de marketing y se convierta en algo genuinamente útil. El hecho de que sea un modelo de razonamiento —capaz de abordar matemáticas y código, no solo conversación superficial— lo hace especialmente relevante para casos de uso reales.

Ahora bien, hay que ser honestos: los benchmarks internos son el punto de partida, no el veredicto definitivo. PrismML tiene todos los incentivos del mundo para presentar sus resultados de la forma más favorable posible, y hasta que evaluaciones independientes confirmen esas cifras, el escepticismo sano es obligatorio. Lo que sí parece indiscutible es la dirección correcta: comprimir sin degradar el razonamiento es el problema clave de la IA móvil, y si PrismML lo ha resuelto de verdad —algo que el interés de Apple sugiere, aunque no confirma—, estamos ante una tecnología con un impacto enorme tanto para consumidores como para el ecosistema de desarrollo de aplicaciones en todo el mundo hispanohablante.