Vitalik sugere a padronização do hardware local de LLM em torno da classe de memória de 96GB

ETH-4,16%
De acordo com a PANews, a 28 de maio, o cofundador da Ethereum Vitalik Buterin sugeriu que as implementações locais de grandes modelos de linguagem (LLM) deveriam padronizar-se em torno de configurações específicas de memória, com 96GB identificados como um limite superior viável para o hardware atual. Buterin citou a GPU RTX 6000 com 96GB de VRAM e MacBooks topo de gama com 128GB de memória unificada como pontos de referência, observando que cerca de 32GB devem ser reservados para outras tarefas do sistema. Propôs que o ecossistema adote escalões de capacidade padronizados — 2GB, 8GB, 24GB, 96GB, 256GB e 1TB — para melhorar a eficiência das implementações e a compatibilidade entre plataformas tanto para o LLM como para o design do hardware de GPU.
Aviso legal: As informações contidas nesta página podem provir de fontes externas e têm caráter meramente informativo. Não refletem os pontos de vista nem as opiniões da Gate e não constituem qualquer tipo de aconselhamento financeiro, de investimento ou jurídico. A negociação de ativos virtuais envolve um risco elevado. Não se baseie exclusivamente nas informações contidas nesta página ao tomar decisões. Para mais detalhes, consulte o Aviso legal.
Comentar
0/400
Nenhum comentário