OpenAI Jalapeño: su primera chip IA presenta ya un rendimiento superior a Blackwell en inferencia
OpenAI ya no se limita a diseñar modelos de inteligencia artificial. La compañía también busca controlar el silicio que los impulsa. En Hot Chips, OpenAI presentó los primeros resultados detallados de Jalapeño, su acelerador de inferencia desarrollado junto a Broadcom, y las cifras son lo suficientemente ambiciosas como para llamar la atención de Nvidia.
En el benchmark InferenceX de SemiAnalysis, Jalapeño muestra tanto un mayor rendimiento por kilovatio como una mejor latencia en comparación con varios sistemas comerciales de referencia. Esta es la primera demostración que ofrece una visión concreta de la estrategia integral de OpenAI: diseñar modelos, software, memoria, red y chips como un sistema único.
Jalapeño entra directamente en la batalla de los aceleradores IA
OpenAI presentó oficialmente Jalapeño en junio como su primer procesador dedicado a la inferencia de grandes modelos de lenguaje. La chip ha sido diseñada en estrecha colaboración con Broadcom, con un objetivo muy diferente al de una GPU generalista: optimizar específicamente el servicio de los modelos de IA, ya sea ChatGPT, Codex o futuros agentes.
En Hot Chips, la empresa mostró una primera serie de resultados medidos en InferenceX, un benchmark público desarrollado por SemiAnalysis.
Jalapeño fue probado en varios modelos abiertos, incluidos GPT-OSS 120B, DeepSeek R1 670B y Kimi K2.5 1T. El resultado es significativo: OpenAI afirma que su plataforma ofrece una mejor combinación de rendimiento, consumo eléctrico y latencia que los sistemas comerciales utilizados para la comparación.
Hasta 1.5 veces más rendimiento por vatio en Kimi
Uno de los resultados más impresionantes se refiere a Kimi K2.5 1T, el modelo público más grande probado. OpenAI anuncia un rendimiento de aproximadamente 1.5 veces superior por vatio en comparación con el sistema competidor utilizado en el benchmark, con una latencia de extremo a extremo hasta 3.4 veces inferior.
Otras comparaciones publicadas sobre Jalapeño también informan de ganancias de hasta aproximadamente 1.9 veces más trabajo por vatio y hasta 3.6 veces menos latencia, según los modelos y configuraciones.
La referencia utilizada incluye sistemas Nvidia basados en Blackwell, incluidos las plataformas GB200 y GB300.
Sin embargo, es importante contextualizar estos resultados. Jalapeño solo será implementado en volúmenes muy bajos a finales de 2026, antes de una escalada más significativa en 2027. Para entonces, Nvidia y sus competidores también habrán evolucionado sus arquitecturas.
Por lo tanto, los primeros benchmarks siguen siendo, ante todo, una fotografía del equilibrio de fuerzas actual.
OpenAI se centra en la inferencia, no en el entrenamiento
La especialización de Jalapeño es fundamental para entender su rendimiento. La chip no fue concebida como un acelerador universal destinado a reemplazar todas las GPUs en un centro de datos. Está diseñada específicamente para la inferencia, es decir, la fase en la que un modelo ya entrenado responde a los usuarios.
Es una elección lógica para OpenAI.
A medida que ChatGPT, Codex y los agentes de IA ganan usuarios, una proporción creciente del costo total ya no proviene únicamente del entrenamiento inicial de los modelos, sino de su ejecución permanente a gran escala.
Cada solicitud, cada token generado y cada paso de un agente consumen cálculo. Mejorar la eficiencia de esta fase en unos pocos decenas de por ciento puede representar así economías considerables cuando la infraestructura opera a la escala de millones de usuarios.
Jalapeño se enfrenta a los verdaderos cuellos de botella
OpenAI explica haber diseñado la chip a partir de problemas observados diariamente en sus propios modelos. La empresa menciona dos fases críticas: el prefill, cuando el sistema analiza el prompt y su contexto, y las comunicaciones entre los diferentes recursos de cálculo durante la generación.
Estas etapas pueden convertirse en serios cuellos de botella. Por ello, Jalapeño busca reducir al mínimo los movimientos innecesarios de datos. OpenAI indica que el estado del modelo, incluido el caché KV utilizado durante la generación de una respuesta, puede ser colocado explícitamente y mantenido lo más cerca posible de los recursos de cálculo necesarios. La arquitectura puede luego activar la combinación adecuada de cálculo, memoria y red según la fase de la inferencia.
Esta optimización puede parecer muy técnica, pero tiene un resultado extremadamente concreto: reducir el tiempo durante el cual las unidades de cálculo esperan que lleguen los datos.
Hasta 550 W consumidos realmente en las pruebas
OpenAI también enfatiza la relación entre rendimiento y consumo. Jalapeño tiene una potencia nominal de 700 W, pero la compañía precisa que la consumo sostenido observado durante las cargas de trabajo testeadas se mantuvo en 550 W o menos. Este dato es especialmente significativo en el contexto actual de los centros de datos de IA. El principal obstáculo para el crecimiento de la inteligencia artificial no es solo la disponibilidad de chips. El acceso a la electricidad, el enfriamiento y la densidad energética se han vuelto restricciones igualmente importantes.
Una plataforma capaz de procesar más tokens por cada kilovatio consumido puede incrementar la capacidad de un centro de datos sin aumentar proporcionalmente sus necesidades energéticas.
Es precisamente por esta razón que OpenAI prefiere destacar el rendimiento por unidad de potencia en lugar de los rendimientos absolutos de un solo chip.
Una arquitectura diseñada para los agentes IA
La cuestión de la latencia también cobra mayor importancia con la llegada de los agentes. Un chatbot tradicional puede producir una respuesta después de una única solicitud. Un agente, en cambio, puede llevar a cabo decenas, incluso cientos de pasos sucesivos: buscar información, usar una herramienta, analizar el resultado, reformular una solicitud y comenzar nuevamente. En este escenario, unos pocos cientos de milisegundos perdidos en cada etapa pueden acumularse.
Por lo tanto, una arquitectura capaz de mejorar simultáneamente el rendimiento y la latencia se torna particularmente atractiva.
Richard Ho, responsable del programa de hardware en OpenAI, resume esta ambición con una idea simple: Jalapeño debe poder servir a muchos usuarios mientras se mantiene suficientemente rápido para interacciones que son muy sensibles al tiempo.
OpenAI ha utilizado sus propios modelos para diseñar la chip
La historia del desarrollo de Jalapeño es casi tan interesante como su rendimiento. OpenAI afirma haber utilizado sus propios modelos de IA para acelerar ciertas etapas del diseño y optimización del procesador. La tape-out se completó en solo nueve meses, un tiempo particularmente corto para un chip ASIC avanzado.
Este bucle es estratégico. Los modelos de OpenAI contribuyen al diseño del hardware que luego se utilizará para ejecutar futuros modelos. Estos nuevos chips a su vez pueden reducir el costo y la latencia de la inferencia, permitiendo potencialmente desarrollar productos más complejos y utilizados.
OpenAI desea transformar este mecanismo en un verdadero ciclo de mejora entre software y hardware.
Jalapeño es solo la primera generación
La empresa, de hecho, no presenta a Jalapeño como una experiencia aislada. Se trata de la primera etapa de una plataforma multigeneracional desarrollada junto a Broadcom y otros socios industriales. OpenAI busca poder hacer evolucionar conjuntamente sus chips, su red, sus sistemas de memoria, sus kernels de software y sus modelos.
Este enfoque recuerda las estrategias seguidas en los últimos años por Google con sus TPU y Amazon con Trainium e Inferentia. La diferencia es que OpenAI utiliza directamente algunos de los servicios de IA generativa más utilizados en el mundo.
Esta cercanía a los workloads reales podría permitirle optimizar su hardware de una manera mucho más dirigida.
Una forma de reducir gradualmente la dependencia de Nvidia
Sin embargo, sería prematuro hablar de una ruptura con Nvidia. OpenAI sigue utilizando enormes cantidades de GPUs Nvidia y Jalapeño no reemplaza los aceleradores necesarios para entrenar modelos.
Pero la dirección es clara. Cuanto más pueda OpenAI transferir parte de sus workloads de inferencia a sus propias chips, más control tendrá sobre sus costos, su rendimiento y su capacidad de implementación. Esta es también una manera de reducir la exposición a un solo proveedor en un mercado donde los aceleradores de alto rendimiento siguen siendo un recurso estratégico.
La lucha no se basa solo en el rendimiento bruto. También se trata de controlar la cadena de suministro, la energía consumida y el costo por token.
El verdadero desafío será 2027
Los primeros resultados de Jalapeño son impresionantes, pero llegan antes del verdadero despliegue masivo de la plataforma. OpenAI solo planea pequeñas cantidades para finales de 2026, antes de una escalada en 2027.
La prueba decisiva, por lo tanto, será menos saber si Jalapeño supera hoy a una plataforma Blackwell en ciertos benchmarks que determinar si puede mantener esa ventaja cuando esté instalada a gran escala en los centros de datos. La fiabilidad, el rendimiento industrial, el costo de fabricación, el software y la capacidad de manejar millones de solicitudes diarias serán tan importantes como los números publicados en Hot Chips.
Pero una cosa ya es clara: OpenAI ya no quiere depender únicamente de los avances realizados por los fabricantes de GPUs. Con Jalapeño, la empresa comienza a diseñar directamente la infraestructura que definirá la velocidad y el costo de sus futuros productos.
Y en una industria donde unos pocos milisegundos y unos pocos vatios multiplicados por miles de millones de solicitudes pueden representar grandes fortunas, tener su propio chip podría volverse tan estratégico como poseer el mejor modelo.
