Explora los modelos y estilos detrás de historias como esta: cuenta gratis y galería al instante.
OpenAI y Broadcom han presentado conjuntamente Jalapeño, el primer silicio personalizado de OpenAI — un ASIC diseñado específicamente para inferencia de IA — marcando el primer movimiento serio de la compañía para alejarse de su dependencia de las GPU de Nvidia en el servicio de sus modelos.
La mayoría de las noticias sobre chips en IA se centran en el entrenamiento — los enormes clústeres de GPU que enseñan a un modelo sus pesos. La inferencia es la otra mitad: cada vez que envías un prompt y recibes una respuesta, eso es inferencia. Es también la parte de la infraestructura que funciona de forma continua, a enorme escala, y que determina directamente cuánto le cuesta a OpenAI responder a una consulta.
Jalapeño es un ASIC, lo que significa que cada transistor está optimizado para una sola cosa. A diferencia de una Nvidia H100 — un acelerador flexible de propósito general capaz de entrenar modelos, ejecutar simulaciones o renderizar gráficos — un ASIC sacrifica flexibilidad a cambio de eficiencia. Las TPU de Google y los chips Inferentia de Amazon siguen la misma lógica. Para la inferencia en particular, ese intercambio suele ser ganador: menor consumo energético, menor coste por token y, con frecuencia, menor latencia.
Para los creadores que utilizan la API de OpenAI o GPT-4o a través de ChatGPT, el efecto práctico es claro: una inferencia más barata para OpenAI debería traducirse eventualmente en límites de uso más generosos, precios de API más bajos o tiempos de respuesta más rápidos — aunque ninguno de esos resultados está garantizado ni tiene un calendario definido.
Broadcom es uno de los principales socios de fabricación para ASICs de IA personalizados — ya fabrica la línea de TPU de Google. Su participación en el Jalapeño de OpenAI sugiere que el chip es una pieza de silicio seria y lista para producción, no un prototipo de investigación. Según informaciones de The Verge y TechCrunch, el chip está destinado explícitamente al despliegue en la infraestructura de inferencia de OpenAI, no solo a pruebas de laboratorio.
El nombre Jalapeño se aleja de la nomenclatura alfanumérica árida del silicio típico de centros de datos, lo que puede ser una señal de marca o simplemente un nombre en clave interno que terminó quedándose — OpenAI no lo ha aclarado.
OpenAI ha invertido miles de millones en GPU de Nvidia y sigue siendo uno de sus mayores clientes. Jalapeño no cambia eso de la noche a la mañana. El entrenamiento de modelos frontera sigue requiriendo el hardware más reciente de Nvidia — los clústeres H100 y B200 que OpenAI, Microsoft Azure y otros se han apresurado a adquirir. Lo que Jalapeño puede hacer es reducir la cantidad de chips Nvidia que OpenAI necesita para gestionar la carga de inferencia que crece con cada nuevo usuario.
Según informó Ars Technica, el chip se enmarca como parte de la estrategia más amplia de OpenAI para hacer frente a una demanda en auge — un problema que ha provocado limitaciones de uso y ralentizaciones visibles para los usuarios de la API en períodos de máxima actividad. Un ASIC de inferencia dedicado que funcione en paralelo con los clústeres de GPU es el manual estándar: Google realizó esta transición a lo largo de varias generaciones de TPU antes de que sus costes de inferencia bajaran de forma significativa.
Hoy no cambia nada. Jalapeño ha sido anunciado, pero aún no está desplegado a escala. Sin embargo, la trayectoria importa para cualquiera que construya pipelines de generación de imágenes, flujos de trabajo de prompts o herramientas de personajes sobre la API de OpenAI. Si OpenAI puede servir la inferencia de forma más barata en su propio silicio, la curva de costes de GPT-4o y los modelos futuros se inclina a la baja — y ese es el coste de entrada para cada herramienta del ecosistema que llama a los endpoints de OpenAI.
Los creadores que ya comparan los costes de los modelos entre proveedores antes de comprometerse con un flujo de trabajo deberían vigilar si los precios de la API de OpenAI se mueven en los próximos dos o tres trimestres. Ese es el plazo realista para que un ASIC recién anunciado alcance una escala de despliegue significativa. Mientras tanto, el anuncio confirma que OpenAI está tratando la capacidad de inferencia — no solo las capacidades del modelo — como una variable competitiva central de cara a lo que venga después de GPT-4o.
