Morgan Stanley: la escasez de memoria para IA persistirá por varios años; tres caminos para resolverlo; oportunidades estructurales para el almacenamiento y la potencia de cómputo heterogénea
Morgan Stanley publicó un informe sobre la industria de semiconductores señalando que la escasez de memoria DRAM persistirá durante este ciclo de la industria de IA, y la expansión de la capacidad de cómputo en IA no esperará a que se construyan y pongan en marcha nuevas plantas de fabricación de chips.
Según la aplicación financiera Zhitong Finance APP, Morgan Stanley publicó un informe de la industria de semiconductores señalando que la escasez de memoria DRAM se extenderá a lo largo de este ciclo industrial de IA, y que la expansión del poder de cómputo en IA no esperará a la finalización y puesta en marcha de nuevas fábricas de obleas. La industria está sortenado el cuello de botella de la memoria a través de tres rutas tecnológicas principales: reducción de especificaciones de hardware, desacoplamiento de arquitecturas de inferencia y agrupación de memoria CXL, impulsando la construcción de capacidad informática a pesar de las restricciones de oferta. La firma mantiene una visión positiva sobre líderes del almacenamiento como Micron (MU.US) y SanDisk (SNDK.US), y también sobre las oportunidades incrementales en el segmento de interconexión CXL e inferencia heterogénea, recomendando Astera Labs (ALAB.US), Marvell (MRVL.US), Cerebras (CBRS.US) y Nvidia (NVDA.US).
Morgan Stanley enfatiza que la actual escasez de memoria para IA no es una perturbación de corto plazo, sino una contradicción estructural donde el crecimiento en el desempeño del poder de cómputo supera ampliamente la velocidad de crecimiento en la oferta de memoria. Los modelos de vanguardia duplican su tamaño cada seis meses y el tamaño de las ventanas de contexto de los modelos principales aumenta cinco o seis veces por año; sumado a la demanda cada vez mayor de inferencia concurrente, la necesidad de capacidad y ancho de banda de memoria sigue explotando. Mientras tanto, la construcción de fábricas de obleas de DRAM lleva varios años, la elasticidad de la oferta es extremadamente baja y la escasez persistirá por varios años. El CEO de Nvidia, Jensen Huang, también declaró públicamente que la industria debe cambiar su enfoque para abordar las limitaciones de memoria mediante innovación en arquitectura en vez de simplemente esperar la expansión de capacidad.
Ante la escasez de HBM y memoria principal, la forma más directa en que responde la industria es reducir selectivamente las especificaciones de memoria por dispositivo (De-speccing). Tomando como ejemplo la arquitectura Rubin de Nvidia, la capacidad de LPDDR5 por servidor bajó de los 54TB originalmente planeados a 28TB, y la capacidad de HBM por GPU se redujo de 288GB a 192GB, asegurando el volumen de envío total a través de la reducción de la altura de apilamiento de la memoria. Morgan Stanley señala que reducir especificaciones no elimina el cuello de botella, sino que traslada la presión entre niveles de memoria: al disminuir la memoria local de alta velocidad, los datos no de alta frecuencia como los cachés KV se trasladan al almacenamiento NAND, los intercambios de datos entre GPU aumentan y, en consecuencia, crece la demanda de ancho de banda de interconexiones de red. En esencia, se suple la escasez de memoria de alto ancho de banda con interconexiones de red más rápidas y recursos de almacenamiento de menor costo.
La segunda ruta para romper el cuello de botella es el desacoplamiento de la arquitectura de inferencia (Disaggregation). La inferencia en IA contiene dos etapas significativamente distintas: pre-carga (Prefill) y decodificación (Decode). La Prefill consume principalmente poder de cómputo, mientras que la Decode depende fuertemente del ancho de banda de la memoria. Las arquitecturas tradicionales usan el mismo acelerador para ambas tareas, resultando en baja utilización de recursos. Actualmente, la industria avanza hacia la inferencia heterogénea, separando ambas etapas en diferentes hardwares: la Prefill, que requiere mucha computación, la ejecutan GPU de propósito general, y la Decode, que exige gran ancho de banda de memoria, la ejecutan chips aceleradores dedicados con gran capacidad de SRAM en el chip.
Ejemplos típicos incluyen el motor a escala de oblea de Cerebras y la arquitectura Groq LPU adquirida por Nvidia, ambos capaces de ofrecer una eficiencia de ancho de banda de memoria muy superior a las GPU tradicionales en la etapa de decodificación. Morgan Stanley considera que la inferencia heterogénea será una importante tendencia evolutiva de la infraestructura de IA y que los fabricantes de hardware especializados en fases de decodificación tendrán oportunidades claras de crecimiento incremental.
La tercera vía es la reconstrucción del sistema de memoria mediante la tecnología CXL. CXL (Compute Express Link) utiliza interconexión de alta velocidad para lograr expansión, compartición y agrupación de memoria, desvinculando así la memoria de un único procesador y convirtiéndose en una tecnología central para superar las limitaciones de capacidad. Morgan Stanley estima que la demanda de IA impulsará el mercado de CXL y chips de memoria relacionados hasta los 6 mil millones de dólares hacia 2030, superando ampliamente la escala del mercado tradicional de memoria para CPU. Su valor clave radica en la construcción de una arquitectura de memoria jerarquizada: los datos de máxima frecuencia se mantienen en HBM, los de frecuencia intermedia en el pool de memoria CXL y los datos fríos de baja frecuencia se trasladan al NAND, alineando los costos según la frecuencia de acceso a los datos.
En cuanto a las principales líneas de inversión, Morgan Stanley reafirma tres direcciones: primero, continuar sobreponderando Micron y SanDisk, ya que la reducción de especificaciones se debe a la escasez de oferta y no a una disminución de la demanda; la demanda de memoria para IA tiene una tendencia de crecimiento a largo plazo y la brecha de oferta seguirá absorbiendo la capacidad. Segundo, posicionar líderes de CXL e interconexión scale-up como Astera Labs y Marvell. Tercero, prestar atención a los beneficiarios de la inferencia heterogénea como Cerebras, así como a Nvidia, que ha mejorado su posicionamiento heterogéneo con la adquisición de Groq.
Advertencia de riesgos: el crecimiento de la demanda de poder de cómputo para IA puede ser inferior al esperado; la implementación de la tecnología CXL puede avanzar más lento de lo previsto; la expansión de la capacidad de memoria puede superar lo esperado.
Descargo de responsabilidad: El contenido de este artículo refleja únicamente la opinión del autor y no representa en modo alguno a la plataforma. Este artículo no se pretende servir de referencia para tomar decisiones de inversión.
También te puede gustar
Los grandes bancos de Wall Street aumentan en conjunto sus previsiones de suba de tasas, los futuros de bonos del Tesoro de EE.UU. continúan cayendo, y el oro cae más de un 1% rompiendo los 4000.
Tras el CPI de EE.UU. de octubre que superó las expectativas, Goldman Sachs y Nomura han añadido una subida de tasas en marzo del próximo año a sus previsiones de política monetaria, mientras que Deutsche Bank suma una subida en enero. Actualmente, el mercado ya ha descontado completamente una subida de 25 puntos básicos en diciembre, con una probabilidad del 13% para una subida de 50 puntos básicos. El miércoles, el mercado de bonos del Tesoro de EE.UU. estuvo cerrado, pero los futuros continuaron cayendo, lo que llev ó a un aumento de los rendimientos de aproximadamente 2 a 4 puntos básicos. El oro al contado cayó un 1,1%.
¿No hay que preocuparse por la desaceleración en la construcción de centros de datos de IA? El auge de las importaciones en EE.UU. no se frenará a corto plazo y el verdadero impacto podría llegar en 2029.
En promedio, un proyecto de centro de datos tarda 4,8 años desde la confirmación de la inversión hasta el inicio de la construcción, y otros 2,6 años desde el comienzo de la obra hasta la puesta en funcionamiento. Habitualmente, los servidores solo pueden ser instalados una vez finalizada la estructura del edificio e instalados los racks. Para socios comerciales como Taiwán, Corea del Sur y México, que dependen de la cadena de suministro de centros de datos de Estados Unidos, la inercia en los plazos de construcción brinda un colchón para sus exportaciones al menos por uno o dos años más.
Gran controversia en la Reserva Federal: ¿Cuándo debería terminar el mandato de Williams, el "número tres"?
El foco de la controversia es si Williams debería dejar su cargo en junio de 2028 (cuando complete un período total de 10 años), o en junio de 2027 (cuando alcance la edad de jubilación de 65 años). Los análisis indican que el directorio de la Reserva Federal tiene la autoridad definitiva; si Williams deja el cargo antes de tiempo, el presidente de la Reserva Federal, Waller, podría adelantarse y tomar el control del puesto más clave en términos de recursos humanos. Sin embargo, acortar el mandato de Williams de manera forzada podría ser interpretado fácilmente como una maniobra política. Se espera que Williams permanezca en el cargo hasta junio de 2028.
Morgan Stanley advierte: los precios de almacenamiento antiguo están alcanzando su punto máximo, la oferta y demanda podrían volverse más holgada en 2028.
Morgan Stanley señaló que, después de las elecciones en Estados Unidos, se espera que aproximadamente el 20% de la nueva capacidad de los centros de datos se retrase hasta 2029, lo que podría crear una "interrupción" en la cadena de suministro en 2028 y aumentar el riesgo de acumulación de inventario de almacenamiento antiguo. El almacenamiento antiguo está menos restringido por acuerdos de precios fijos a largo plazo, lo que implica una mayor volatilidad de precios cuando la brecha entre oferta y demanda se reduce. Este análisis sólo se refiere al almacenamiento antiguo, incluyendo DDR3/4, SLC/MLC NAND y NOR Flash.
Precios de las criptos
Más
