Kwangil Park, vicepresidente senior de planificación de productos de memoria en Samsung Electronics declaró: «Nuestra innovadora HBM-PIM es la primera solución PIM programable de la industria diseñada para diversas cargas de trabajo impulsadas por IA, como HPC, capacitación e inferencia. Planeamos aprovechar este avance colaborando aún más con proveedores de soluciones de inteligencia artificial para aplicaciones aún más avanzadas con tecnología PIM «.
Rick Stevens, director de laboratorio asociado de Argonne para Informática, Medio Ambiente y Ciencias de la Vida, comentó: «Estoy encantado de ver que Samsung está abordando los desafíos de potencia y ancho de banda de la memoria para la computación de HPC y AI. El diseño de HBM-PIM ha demostrado un rendimiento y ganancias de potencia impresionantes en clases importantes de aplicaciones de IA, por lo que esperamos trabajar juntos para evaluar su desempeño en problemas adicionales de interés para el Laboratorio Nacional Argonne «.
La mayoría de los sistemas informáticos actuales se basan en la arquitectura von Neumann, que utiliza unidades de memoria y procesador independientes para realizar millones de complejas tareas de procesamiento de datos. Este enfoque de procesamiento secuencial requiere que los datos se muevan constantemente hacia adelante y hacia atrás, lo que resulta en un cuello de botella que ralentiza el sistema, especialmente cuando se manejan volúmenes de datos cada vez mayores.
En cambio, el HBM-PIM lleva la potencia de procesamiento directamente al lugar donde se almacenan los datos al colocar un motor de IA optimizado para DRAM dentro de cada banco de memoria, una subunidad de almacenamiento, lo que permite el procesamiento en paralelo y minimiza el movimiento de datos. Cuando se aplica a la solución HBM2 Aquabolt existente de Samsung, la nueva arquitectura puede ofrecer más del doble del rendimiento del sistema al tiempo que reduce el consumo de energía en más del 70%. El HBM-PIM tampoco requiere ningún cambio de hardware o software, lo que permite una integración más rápida en los sistemas existentes.
El artículo de Samsung sobre HBM-PIM ha sido seleccionado para su presentación en la reconocida Conferencia Virtual Internacional de Circuitos de Estado Sólido (ISSCC) que se llevó a cabo hasta el 22 de febrero. HBM-PIM de Samsung ahora está siendo probado dentro de aceleradores de IA por los principales socios de soluciones de IA, con Se espera que las validaciones se completen en el primer semestre de este año.
