AMD і Apple одночасно просувають альтернативи флеш-пам’яті DRAM для ШІ, скорочують витрати на пам’ять у 55 разів

За даними Citrini Research, 16 червня AMD та Apple одночасно просувають у продуктах для ШІ альтернативи DRAM на основі флеш-пам’яті. AMD придбала MEXT, щоб оптимізувати продуктивність флеш-накопичувачів на рівні, близькому до DRAM, знижуючи витрати на пам’ять у дата-центрах; Apple запровадила технологію «LLM in a flash», щоб досягти подібної оптимізації на рівні пристрою.

Останні дослідження Citrini вказують, що потреби KV cache під час ШІ-інференсу та HBM, які споживають 25% виробничих потужностей DRAM, створюють відчутний тиск на витрати на пам’ять. Вартість флеш-накопичувачів становить лише 1/55 вартості DRAM, і завдяки оптимізації контролера, NAND-стекінгу та коригуванням режиму комірок вона пропонує життєздатні альтернативи за обсягом і пропускною здатністю для edge AI.