IA de aprendizaje continuo redibuja la memoria

En la industria de la inteligencia artificial (IA) se habla cada vez más de un modelo en el que los sistemas siguen incorporando información nueva incluso mientras ya están en servicio, un método conocido como 'aprendizaje continuo' (continual learning). En este esquema, la frontera entre el entrenamiento y la inferencia —entre 'aprender' y 'responder'— prácticamente desaparece. Mientras la IA generativa convencional solo da respuestas con el conocimiento que adquirió de antemano, el nuevo método sigue aprendiendo al mismo tiempo que responde. En la industria lo comparan con un estudiante que sigue memorizando contenido nuevo incluso mientras rinde un examen.

Esta tendencia también transforma la estructura de la demanda de semiconductores de memoria. El banco de inversión global Citi prevé que, si este método se generaliza, la demanda de memoria de alto ancho de banda (HBM, por sus siglas en inglés) crecerá todavía más de lo que ya lo ha hecho. Según sus proyecciones, la demanda de bits de HBM del próximo año superará 1,6 veces la de este año, y para 2028 será casi el triple. El banco señaló que, incluso en medio de ajustes en las especificaciones de memoria y de dudas sobre la seguridad de la IA, la expansión de este tipo de aprendizaje será la variable clave que mantendrá la escasez de oferta durante los próximos años.

El nuevo método de aprendizaje plantea desafíos que un solo tipo de memoria no puede resolver por sí solo. Los sistemas deben, a la vez, absorber información nueva y acceder constantemente al enorme conocimiento ya acumulado, y no es viable cargar todos esos datos únicamente en memoria HBM, que es cara. Por eso la DRAM para servidores y los dispositivos de almacenamiento basados en NAND amplían su papel, y también gana peso la tecnología que procesa operaciones directamente dentro de la memoria.

Samsung Electronics y SK hynix presentaron nuevas tecnologías para responder a este cambio. En un evento sobre infraestructura de IA celebrado en Estados Unidos, Samsung mostró 'zHBM', una estructura apilada que coloca memoria justo encima del acelerador para reducir la distancia que deben recorrer los datos, con el objetivo de multiplicar por diez la velocidad de respuesta. SK hynix, por su parte, exhibió su tecnología PIM (procesamiento en memoria, que ejecuta cálculos dentro del propio chip), además de SALT-KV —que distribuye los datos según sus características— y un modelo de estructura de memoria flash de alto ancho de banda.

Estas expectativas ya se reflejan en el mercado. Después de que el director ejecutivo de Nvidia comentara que las ventas de chips del próximo año podrían duplicar las de este año, las acciones de ambas empresas subieron con fuerza. En la bolsa surcoreana empezaron a cotizar varios fondos cotizados (ETF) enfocados en empresas de memoria estadounidenses o en acciones ligadas al HBM. Datos de la Organización Mundial del Comercio también muestran que el comercio de productos relacionados con IA crece mucho más rápido que el de otros rubros, lo que refuerza las expectativas de mayor demanda de memoria.