El CEO de NVIDIA, Jensen Huang, presentó hoy en la conferencia GTC el nuevo chip de inferencia NVIDIA Groq 3 LPU, que incorpora la tecnología del procesador de lenguaje Groq. También anunció que la nueva arquitectura de GPU, Feynman, integrará la próxima CPU llamada Rosa y una nueva LPU para construir un sistema de plataforma más potente.
El CEO de ia">NVIDIA, Jensen Huang, reveló hoy en la conferencia GTC el nuevo chip de inferencia NVIDIA Groq 3 LPU, que integra la tecnología del procesador de lenguaje Groq. También mencionó que la próxima arquitectura de GPU, Feynman, integrará la CPU de próxima generación llamada Rosa y una nueva LPU, para construir un sistema de plataforma más potente.
El gigante de los chips de inteligencia artificial, NVIDIA, cuya figura central es Huang, apareció en la GTC vistiendo su característico abrigo de cuero negro y exclamó: "Bienvenidos a GTC".
Huang se refirió al concepto de la “torta de cinco capas”, usado recientemente para describir la pila de tecnologías completas de IA, señalando que, desde la energía básica, los chips, la infraestructura, las plataformas, y los modelos, lo más crucial para hacer despegar la industria de IA son todas las aplicaciones.
El CEO resaltó que la era de la IA generativa, inaugurada por la startup OpenAI en 2023, dará paso a la era de la IA de razonamiento en 2024, y 2025 será el año donde las herramientas de desarrollo de IA de Anthropic, llamadas Claude Code, impulsarán la capacidad agentica.
Estos tres fases han desatado una explosión en la demanda de inferencia, indicando que "el punto de inflexión de la inferencia ya ha llegado".
Huang detalló la supercomputadora de IA Vera Rubin y anunció la incorporación del nuevo miembro de la familia, el NVIDIA Groq 3 LPU, aumentando de seis a siete el número total de chips.
Este chip de inferencia será fabricado por Samsung y se estima que se enviará en la segunda mitad del año.
A finales del año pasado, NVIDIA firmó un acuerdo de licencia técnica con el diseñador de chips Groq para avanzar en la tecnología de inferencia de IA. Este es el primer producto que combina la tecnología de Groq, usando memoria SRAM de 500 MB, pero con mayor velocidad y costos más bajos.
Al hablar de la hoja de ruta de la tecnología GPU, Huang mencionó la arquitectura Feynman de próxima generación, que trabajará en conjunto con la próxima CPU llamada Rosa y la nueva LPU.
NVIDIA también anunció el lanzamiento del sistema en rack Groq 3 LPX, que incorpora 256 LPU, un hito importante en la computación acelerada, que opera junto con el sistema en rack Vera Rubin NVL72, aumentando la carga de trabajo de procesamiento de IA en 35 veces.
El CEO de NVIDIA, Jensen Huang, presentó la hoja de ruta de la tecnología GPU, señalando que la próxima generación de arquitectura GPU Feynman integrará la CPU Rosa y la nueva LPU.
Extracto del artículo
- NVIDIA presenta el nuevo chip de inferencia Groq 3 LPU en GTC 2023.
- El próximo GPU, Feynman, integrará la CPU Rosa y una nueva LPU.
- El chip de inferencia será fabricado por Samsung y se espera que se entregue en la segunda mitad del año.
- La era de la IA generativa empezó con OpenAI y la IA de razonamiento se prevé para 2024.
- NVIDIA también anunció el sistema en rack Groq 3 LPX, mejorando significativamente el rendimiento de cálculo.
