Виталик Сайтер предложил стандартизировать локальное оборудование для LLM вокруг сегмента с 96 ГБ памяти

ETH-1,36%
По данным PANews, 28 мая сооснователь Ethereum Виталик Бутерин предложил, чтобы локальные развертывания больших языковых моделей (LLM) стандартизировались вокруг конкретных конфигураций памяти: 96 ГБ он назвал одним из реалистичных верхних пределов для текущего оборудования. Бутерин приводил в качестве ориентиров RTX 6000 с 96 ГБ видеопамяти и топовые MacBook с 128 ГБ объединённой памяти, отметив, что примерно 32 ГБ следует зарезервировать под другие системные задачи. Он предложил экосистеме принять стандартизированные уровни ёмкости — 2 ГБ, 8 ГБ, 24 ГБ, 96 ГБ, 256 ГБ и 1 ТБ — чтобы повысить эффективность развертывания и обеспечить совместимость между платформами как для LLM, так и для дизайна GPU-оборудования.
Дисклеймер: Информация на этой странице может быть получена из источников третьих сторон и предоставляется только для ознакомления. Она не отражает взгляды или мнения Gate и не является финансовой, инвестиционной или юридической рекомендацией. Торговля виртуальными активами связана с высоким риском. Пожалуйста, не основывайте свои решения исключительно на данных этой страницы. Подробнее смотрите в Дисклеймере.
комментарий
0/400
Нет комментариев