Nvidia запустила первый чип Groq LPX: в сочетании с Vera Rubin эффективность вывода на мегаватт увеличилась максимум на 35 раз, а также продемонстрирован прототип чипа следующего поколения Kyber

Gate News сообщения, 17 марта Nvidia представила чип Groq 3 LPU (языковой процессор), это первый чип, выпущенный после приобретения стартапа AI-инференции Groq за около 20 миллиардов долларов в декабре прошлого года. Ожидается, что поставки начнутся в третьем квартале этого года. Шасси Groq 3 LPX вмещает 256 LPU, оснащено 128 ГБ встроенной SRAM и обеспечивает расширенную межсоединительную пропускную способность 640 ТБ/с. Официально заявлено, что при развертывании LPX в сочетании с Vera Rubin NVL72, максимальная пропускная способность для инференса на один мегаватт может увеличиться в 35 раз, а также раскрыть потенциал доходов в сценариях с триллионами параметров и миллионами токенов. Джон Хенекен описал оба процессора как “крайне разные, но объединённые: один ориентирован на высокую пропускную способность, другой — на низкую задержку”, при этом встроенная память LPX значительно расширяет общую доступную память модели. Шасси LPX планируется выпустить во второй половине этого года вместе с платформой Vera Rubin. Кроме того, Хенекен продемонстрировал прототип архитектуры следующего поколения с кодовым названием Kyber. Kyber заменит 144 графических процессора в вычислительном модуле на вертикальные расположения для повышения плотности и снижения задержки, он будет установлен на платформе Vera Rubin Ultra, которая ожидается к выпуску в 2027 году.