OpenAI ha presentado oficialmente su chip de inferencia de IA diseñado internamente, denominado Jalapeño, revelando benchmarks que demuestran una eficiencia energética y latencia superiores a los sistemas de rack Nvidia GB200 y GB300. Este anuncio, realizado en Hot Chips el 25 de agosto, posiciona a OpenAI como un competidor clave en el hardware de IA, desafiando el dominio de Nvidia en el segmento de inferencia.
El lanzamiento del chip Jalapeño marca un hito importante para OpenAI, que busca optimizar sus propias operaciones de inferencia y reducir la dependencia de terceros. Los resultados iniciales sugieren un avance significativo en la optimización de cargas de trabajo de IA específicas, lo que podría redefinir las expectativas de rendimiento y coste en la infraestructura de IA.
Rendimiento y Eficiencia Energética de Jalapeño
OpenAI reveló que el chip Jalapeño ofrece entre 1.5 y 1.9 veces más rendimiento por kilovatio y una latencia de extremo a extremo de 1.7 a 3.6 veces menor en comparación con los sistemas de rack Nvidia GB200 y GB300. Estas cifras se obtuvieron al ejecutar el chip en tres modelos de lenguaje abiertos: GPT-OSS 120B, DeepSeek R1 670B y Kimi K2.5 de Moonshot AI, con una entrada nominal de 8,000 tokens y una salida de 1,000 tokens. Es crucial destacar que el Jalapeño opera con un consumo de energía de 700W, significativamente inferior a los 1200W y 1400W de las soluciones comparables de Nvidia.
Aunque Jalapeño muestra una clara ventaja en eficiencia energética, los benchmarks también indican que el GB300 de Nvidia aún lidera en rendimiento absoluto por paquete en un 20-25%. Esto subraya la estrategia de OpenAI de centrarse en un ASIC (circuito integrado de aplicación específica) optimizado para cargas de trabajo de inferencia específicas, priorizando la eficiencia y la reducción de costes operativos sobre la potencia bruta.
Implicaciones en la Industria de Chips de IA
El desarrollo del chip Jalapeño es una declaración de intenciones de OpenAI, que busca internalizar una parte crítica de su infraestructura de IA. Richard Ho, líder del programa de hardware de OpenAI, destacó que los resultados representan un "avance de rendimiento muy, muy significativo sobre el estado del arte". La capacidad de un chip diseñado a medida para superar a las ofertas existentes en eficiencia podría generar una presión considerable sobre los márgenes de inferencia de Nvidia, un área de negocio en rápido crecimiento.
Expertos del sector, como Alexander Harrowell de Omdia, consideran a Jalapeño como una de las "mayores amenazas competitivas para Nvidia
