La creciente demanda de inteligencia artificial (IA) está agotando rápidamente un recurso indispensable para los desarrolladores: la capacidad de cálculo.
La creciente demanda de inteligencia artificial (IA) está agotando rápidamente un recurso indispensable para los desarrolladores: la capacidad de cálculo.
La escasez de capacidad de cálculo ha causado pánico entre los usuarios intensivos y ha llevado a las empresas a retirar productos, además de generar problemas de estabilidad.
Ben Pouladian, ingeniero de Los Ángeles e inversionista tecnológico, dice: 'Todos hablan del petróleo, pero yo creo que lo que el mundo necesita ahora son tokens'. En el campo de la IA, 'token' se utiliza para medir la cantidad de recursos de cálculo que se requieren para realizar tareas.
Los precios de alquiler de las unidades de procesamiento gráfico (GPU) utilizadas para entrenar y ejecutar modelos de IA han aumentado drásticamente desde el otoño pasado. Los populares chatbots Claude y el desarrollador de software Claude Code de Anthropic han estado sufriendo de caídas frecuentes. La compañía ha comenzado a controlar el suministro de cálculo para los usuarios durante las horas punta, pero esta medida ha provocado quejas de los clientes, quienes consideran que han alcanzado el límite de uso demasiado rápido.
El Wall Street Journal informa que OpenAI retiró la aplicación de generación de video Sora, en parte para liberar recursos de cálculo para apoyar nuevos productos impulsados por un modelo de IA conocido como 'Spud'.
La semana pasada, OpenAI informó a los inversores que está comprometida a aumentar significativamente su capacidad de cálculo, y ha logrado una ventaja clave sobre Anthropic.
Bloomberg informa que OpenAI, en una comunicación a sus inversores, dijo: 'Esta diferencia es significativa, ya que la capacidad de cálculo se ha convertido en un factor limitante en el desarrollo de productos'.
OpenAI cita un informe del analista Ben Thompson del blog Stratechery, que indica que las limitaciones de capacidad de cálculo podrían haber influido en la decisión de Anthropic de abrir su modelo Mythos solo a socios seleccionados.
OpenAI espera que la capacidad de cálculo disponible en 2025 alcance 1.9 millones de kilovatios (GW), triplicando la del año anterior, y prevé que la capacidad alcance dígitos de un solo espacio el próximo año, alcanzando aproximadamente 30 GW para 2030. En comparación, OpenAI estima que la capacidad de Anthropic al final del año pasado era de 1.4 GW, y se espera que esté entre 7 y 8 GW el próximo año.
La plataforma API de OpenAI, utilizada principalmente por usuarios de software, ha visto un aumento del uso de tokens de 60 mil millones por minuto en octubre a 150 mil millones por minuto a finales de marzo.
A finales del año pasado, la empresa de nube de IA CoreWeave aumentó los precios en más del 20% y comenzó a exigir a los pequeños clientes que firmaran contratos de al menos tres años, mientras que antes solo se requería un año.
Según el Ornn Compute Price Index, el costo de alquilar los chips más avanzados de la serie Blackwell de Nvidia ha aumentado a 4.08 dólares por hora, un aumento del 48% con respecto a los 2.75 dólares hace dos meses.
Desde mediados de febrero, las caídas en los sistemas de Anthropic se han vuelto comunes, lo que ha llevado a algunas empresas a tener que recurrir a otros proveedores de modelos de IA.
Extracto del artículo
- La creciente demanda de inteligencia artificial está agotando los recursos de computación necesarios.
- La falta de capacidad de cálculo ha llevado a empresas a limitar el acceso a sus productos.
- OpenAI está invirtiendo en aumentar su capacidad de cálculo para superar a sus competidores.
- El costo de los procesadores gráficos ha aumentado significativamente, impactando el desarrollo de productos de inteligencia artificial.
- Las interrupciones frecuentes en los servicios de inteligencia artificial están forzando a algunas empresas a buscar alternativas.
