Вычисления в памяти используют более высокую внутреннюю пропускную способность внутри чипов памяти, избегая большой задержки между DRAM и традиционными вычислительными ядрами. На Hot Chips 2026 Samsung подробно описала свою реализацию LPDDR5X-PIM, размещая блоки обработки в памяти (PIM) в каждом из 16 банков чипов LPDDR5X, сохраняя совместимость со стандартными контроллерами памяти. Каждый блок PIM содержит дерево MAC с файлами регистров и логикой управления, обращаясь к банкам DRAM без ограничений внешней шины. Вместе все 16 банков достигают 614 ГБ/с внутренней пропускной способности против 76,8 ГБ/с для обычной DRAM, обращающейся к двум банкам параллельно. Массив MAC поддерживает четыре операции INT8 или FP8 за такт данных, достигая 2,4 TOPS на уровне пакета. Восемь чипов LPDDR5X дадут 9,6 TOPS INT8, сравнимо с NPU Meteor Lake от Intel. Samsung сохраняет стандартный протокол LPDDR5X, используя специальные адреса строк в качестве элементов управления MMIO. Режим одного банка работает нормально, в то время как режим множественных банков рассылает команды по всем 16 банкам. Режим активированных регистров PIM перенаправляет команды чтения/записи в регистры PIM вместо DRAM. Программное обеспечение загружает веса модели в режиме одного банка, затем переключается в режим множественных банков для записи значений активации в исходные регистры PIM, установки коэффициентов масштаба и указания операций через регистры инструкций. Это создает ограниченный SIMD-процессор внутри памяти.