Vitalik sugere padronizar hardware local de LLM em torno da faixa de memória de 96GB

ETH-2,9%
De acordo com a PANews, em 28 de maio, o cofundador do Ethereum Vitalik Buterin sugeriu que as implantações locais de grandes modelos de linguagem (LLM) devem se padronizar em configurações de memória específicas, com 96GB identificados como um limite superior viável para o hardware atual. Buterin citou a GPU RTX 6000 com 96GB de VRAM e Macs de ponta com 128GB de memória unificada como pontos de referência, observando que aproximadamente 32GB devem ser reservados para outras tarefas do sistema. Ele propôs que o ecossistema adote faixas de capacidade padronizadas — 2GB, 8GB, 24GB, 96GB, 256GB e 1TB — para melhorar a eficiência das implantações e a compatibilidade entre plataformas tanto para o LLM quanto para o design do hardware de GPU.
Isenção de responsabilidade: as informações nesta página podem ter origem em fontes terceiras e servem apenas como referência. Não representam as opiniões da Gate e não constituem orientação financeira, de investimentos ou jurídica. A negociação de ativos virtuais envolve alto risco. Não tome decisões baseando-se apenas nas informações desta página. Para mais detalhes, consulte a Isenção de responsabilidade.
Comentário
0/400
Sem comentários