Apple se interesa por PrismML: esta startup podría hacer que la IA del iPhone sea mucho más rápida… sin la nube
Apple continúa su búsqueda de una inteligencia artificial más potente y respetuosa con la privacidad. Según diversas fuentes, la empresa de Cupertino está evaluando la tecnología desarrollada por PrismML, una startup especializada en la compresión de grandes modelos de lenguaje. Un avance que podría permitir a los futuros iPhones ejecutar modelos de IA mucho más potentes directamente en el dispositivo.
El CEO de PrismML, Babak Hassibi, confirmó a CNBC que se están llevando a cabo conversaciones con Apple y otros actores del sector. Si bien las discusiones están aún en las primeras etapas, el dirigente considera que «las cosas avanzan en la dirección correcta». Por su parte, Apple no ha ofrecido comentarios al respecto.
Una startup de Caltech que quiere revolucionar la IA integrada
Fundada a partir de investigaciones realizadas en el California Institute of Technology (Caltech), PrismML cuenta con el respaldo del fondo Khosla Ventures y tiene una licencia exclusiva sobre las patentes desarrolladas por la universidad. En marzo pasado, la empresa recaudó 16,25 millones de dólares en un primer ciclo de financiación para acelerar el desarrollo de su tecnología.
Su objetivo es claro: hacer que los modelos de inteligencia artificial sean lo suficientemente compactos para funcionar localmente en dispositivos con recursos limitados, como un teléfono inteligente o una computadora portátil.
Bonsai 27B: un modelo de IA reducido de 54 GB a menos de 4 GB
Este interés se debe a Bonsai 27B, el último modelo presentado por PrismML. A diferencia de un nuevo modelo entrenado desde cero, Bonsai 27B se basa en Qwen, el modelo de código abierto desarrollado por Alibaba. La innovación radica en su compresión extrema.
Gracias a su tecnología, PrismML ha logrado reducir el tamaño del modelo de aproximadamente 54 GB a solo 3,9 GB en su versión más compacta.
Se ofrecen dos variantes:
- una versión ternaria, capaz de funcionar en una computadora portátil
- una versión de 1 bit, lo suficientemente ligera como para caber en la memoria de un smartphone como el futuro iPhone 17 Pro
Según PrismML, sería el primer modelo de esta categoría capaz de funcionar directamente en un teléfono sin depender de una infraestructura en la nube.
Un enfoque radical para ahorrar memoria y energía
El ahorro proviene de la manera en que el modelo almacena sus parámetros internos. Mientras que los modelos clásicos utilizan valores codificados en 16 bits, PrismML reduce esta información a solo una o tres posibles, según la versión utilizada.
Esta compresión tendría varios efectos inmediatos:
- una reducción de la memoria requerida de 10 a 15 veces
- respuestas hasta seis a ocho veces más rápidas
- un consumo energético disminuido entre tres y seis veces
No obstante, esta eficiencia viene acompañada de un compromiso. Babak Hassibi reconoce que los modelos pierden algunos puntos de precisión, especialmente en tareas que requieren una memoria fáctica significativa. Sin embargo, las capacidades de razonamiento, programación o cálculo resisten mucho mejor a esta compresión.
PrismML afirma que conserva aproximadamente el 95% del rendimiento del modelo original con la versión ternaria, y cerca del 90% con la variante de 1 bit.
¿Por qué le interesa esta tecnología a Apple?
El momento no es casual. PrismML presentó Bonsai 27B solo unas horas después de la apertura de la beta pública de iOS 27, que trae consigo una profunda renovación de Siri y el lanzamiento de nuevas funciones de Apple Intelligence.
Uno de los principales desafíos que enfrenta Apple es ejecutar más procesos directamente en el dispositivo. Actualmente, las solicitudes más complejas todavía se envían a servidores remotos. Lograr que modelos más potentes funcionen localmente ofrecería varias ventajas estratégicas:
- mejor protección de los datos personales
- tiempos de respuesta más cortos
- funcionalidades accesibles incluso sin conexión
- reducción de los costos asociados con la infraestructura en la nube
Este enfoque se alinea perfectamente con la filosofía de Apple, que ha apostado durante varios años por una IA híbrida que combina el procesamiento local y la nube segura.
Una respuesta a los crecientes costos de la memoria
El interés de Apple también tiene un componente económico. Según un análisis reciente de Morgan Stanley, los costos asociados con los componentes de memoria están destinados a aumentar significativamente en los próximos años, especialmente con la llegada de modelos de IA cada vez más exigentes.
Modelos altamente comprimidos permitirían integrar capacidades avanzadas sin multiplicar la cantidad de memoria incorporada en los futuros iPhones, lo que limitaría así el impacto en los costos de producción y, potencialmente, en los precios de venta.
Una tecnología aún por validar
A pesar de estas promesas, varios analistas advierten sobre la necesidad de ser cautelosos. Tarun Pathak, de Counterpoint Research, sostiene que la verdadera prueba comenzará cuando estos modelos deban procesar millones de solicitudes en miles de dispositivos diferentes.
Por su parte, Phil Solis (IDC) destaca que el consumo energético debe ser evaluado en condiciones reales. Incluso un modelo muy compacto podría afectar sensiblemente la autonomía si se utiliza de manera continua.
La IA de borde se convierte en el nuevo campo de batalla
Más allá del caso de Apple, PrismML ilustra una evolución significativa de la industria. En lugar de aumentar indefinidamente la potencia de los centros de datos, los actores de IA están buscando trasladar parte de la inteligencia directamente a los dispositivos de los usuarios.
Este enfoque, conocido como IA de borde, podría transformar profundamente los usos al combinar rapidez, privacidad y reducción de los costos operativos.
PrismML, además, no planea detenerse en Qwen. La empresa ya está trabajando en versiones optimizadas de Gemma, el modelo de código abierto de Google, antes de abordar modelos de nueva generación aún más ambiciosos.
Si Apple decide finalmente integrar esta tecnología en sus futuros productos, podría dar un paso importante en su ambición de hacer de la inteligencia artificial integrada uno de los principales activos de su ecosistema.
