DescentralizaçãoAI研究：DescentralizaçãoAI的概念、架构与行业梳理

Introdução

Na era digital, a inteligência artificial (IA) tornou-se uma força-chave para impulsionar a inovação tecnológica e o progresso social. O desenvolvimento da IA não é apenas um avanço tecnológico, mas também uma extensão da sabedoria humana. IA tem sido o tópico mais quente na indústria de investimento de risco e nos mercados de capitais nos últimos tempos.

Com o desenvolvimento da tecnologia blockchain, a IA descentralizada surge, e este artigo irá explicar a definição, a arquitetura e como ela interage com a indústria de inteligência artificial.

Definição e Arquitetura de IA Descentralizada

A IA descentralizada utiliza recursos computacionais e armazenamento de dados descentralizados para treinar e utilizar modelos de IA de forma distribuída, aumentando a privacidade e segurança. Sua arquitetura principal consiste em quatro camadas:

• Camada de modelos: Suporta o desenvolvimento, compartilhamento e negociação descentralizados de modelos de IA, promovendo colaboração e inovação global. Projetos representativos nesse nível incluem o Bittensor, que utiliza a tecnologia blockchain para criar uma plataforma global de compartilhamento e colaboração de modelos de IA.

• Camada de treinamento: use contratos inteligentes e tecnologias descentralizadas para reduzir o custo do treinamento de modelos de IA, simplificar o processo e melhorar a eficiência do treinamento. O desafio a este nível é como utilizar eficazmente os recursos de computação distribuída para uma formação eficiente de modelos.

• Camada de Dados: Utiliza a tecnologia blockchain para armazenar e gerir dados, garantindo a segurança e imutabilidade dos dados, ao mesmo tempo que concede aos utilizadores total controlo sobre os dados. Aplicações nesta camada incluem mercados de dados descentralizados, que alcançam transparência nas transações de dados e confirmação de propriedade através da tecnologia blockchain.

• Camada de poder de computação: Através da plataforma de computação GPU descentralizada e suporte de largura de banda, fornece recursos de computação distribuída para suportar treinamento eficiente e inferência de modelos de IA. Os avanços tecnológicos neste nível, como computação de borda e redes GPU distribuídas, fornecem novas soluções para treinamento e inferência de modelos de IA.

Projeto de IA descentralizada

Pentear descentralizado da indústria de IA: camada de modelo

Camada do modelo: O número de parâmetros de modelos grandes aumentou exponencialmente e o desempenho do modelo foi significativamente melhorado, mas os benefícios de expandir ainda mais o tamanho do modelo estão diminuindo gradualmente. Essa tendência exige que repensemos a direção dos modelos de IA e como reduzir custos e consumo de recursos, mantendo o desempenho.

O desenvolvimento de grandes modelos de IA segue a “lei da escala”, ou seja, há uma certa relação entre o desempenho do modelo e o tamanho dos parâmetros, o tamanho do conjunto de dados e o volume computacional.

À medida que o modelo se expande para um certo tamanho, seu desempenho em tarefas específicas melhora significativamente. À medida que o número de parâmetros do modelo aumenta, a melhoria no desempenho do modelo diminui gradualmente. Como equilibrar o tamanho dos parâmetros e o desempenho do modelo será crucial para o desenvolvimento futuro.

!

Vemos que a competição de preços das APIs de grandes modelos de IA está se intensificando, e várias empresas estão reduzindo os preços para aumentar a participação de mercado. No entanto, com a homogeneização do desempenho dos grandes modelos, a sustentabilidade da receita das APIs também está sendo questionada. Como manter alta fidelidade do usuário e aumentar a receita será um grande desafio futuro.

!

A aplicação do modelo do lado do dispositivo será alcançada reduzindo a precisão dos dados e adotando uma arquitetura de modelo especialista híbrido (MoE). A quantização do modelo pode compactar dados de ponto flutuante de 32 bits em 8 bits,** reduzindo significativamente o tamanho do modelo e o consumo de memória. Desta forma, o modelo pode ser executado de forma eficiente em dispositivos do lado do dispositivo, impulsionando a popularização da tecnologia de IA. **

Resumo: A tecnologia blockchain ajuda a aumentar a transparência, a colaboração e o engajamento do usuário na camada do modelo de IA.

Visão geral da indústria de IA centralizada: Camada de Treinamento

Camada de Treinamento: O treinamento de grandes modelos requer comunicação de alta largura de banda e baixa latência. Existe a possibilidade de tentar grandes modelos em uma rede de poder computacional descentralizada. O desafio nesse nível é como otimizar a alocação de recursos de comunicação e cálculo para alcançar treinamento de modelos mais eficiente.

!

A rede de energia descentralizada tem um certo potencial no treino de modelos grandes. Apesar dos desafios de custos de comunicação excessivos, otimizando algoritmos de agendamento e comprimindo a quantidade de dados transmitidos, é possível aumentar significativamente a eficiência do treino. No entanto, como superar os atrasos de rede e gargalos de transmissão de dados em ambientes reais ainda é o principal desafio enfrentado pelo treino descentralizado.

!

Para resolver o gargalo do treinamento de modelos grandes em redes de energia descentralizada, podemos usar técnicas como compressão de dados, otimização de escalonamento e atualização e sincronização local. Esses métodos podem reduzir os custos de comunicação, aumentar a eficiência do treinamento e tornar as redes de energia descentralizada uma escolha viável para treinamento de modelos grandes.

A aprendizagem automática de conhecimento zero (zkML) combina as tecnologias de prova de conhecimento zero e aprendizagem automática, permitindo a verificação e inferência do modelo sem expor os dados de treinamento e os detalhes do modelo. Essa tecnologia é especialmente adequada para setores que exigem alto nível de confidencialidade dos dados, como saúde e finanças, garantindo a privacidade dos dados ao mesmo tempo em que verifica a precisão e confiabilidade do modelo de IA.

Visão geral da indústria de IA descentralizada: Camada de Dados

A privacidade e segurança dos dados são questões-chave para o desenvolvimento da IA. A tecnologia de armazenamento e processamento de dados descentralizada oferece novas abordagens para resolver esses problemas.

O armazenamento de dados, o índice de dados e a aplicação de dados são todos elementos-chave para garantir o funcionamento adequado de um sistema de IA descentralizado. As plataformas de armazenamento descentralizadas, como o Filecoin e o Arweave, fornecem novas soluções em termos de segurança e privacidade de dados, além de reduzir os custos de armazenamento.

Casos de armazenamento descentralizado:

!

• Desde 2020, o tamanho do armazenamento de dados da Arweave tem crescido rapidamente, impulsionado principalmente pelo mercado de NFTs e a demanda por aplicativos Web3. Através da Arweave, os usuários podem alcançar o armazenamento descentralizado de dados permanentes, resolvendo assim o desafio do armazenamento de dados a longo prazo.
• O projeto AO fortaleceu ainda mais o ecossistema Arweave, fornecendo aos usuários uma capacidade computacional mais poderosa e uma gama mais ampla de cenários de aplicação.

Nesta página, comparamos dois projetos de armazenamento descentralizado, Arweave e Filecoin. Arweave realiza armazenamento permanente através de um pagamento único, enquanto Filecoin adota um modelo de pagamento mensal, focando em fornecer serviços de armazenamento flexíveis. Ambos têm vantagens em termos de arquitetura técnica, escala de negócios e posicionamento de mercado, e os usuários podem escolher a solução mais adequada de acordo com suas necessidades específicas.

Pentear descentralizado da indústria de IA: camada de poder de computação

Camada de poder de computação: À medida que a complexidade dos modelos de IA aumenta, aumenta também a demanda por recursos de computação. **O surgimento de redes de poder de computação descentralizadas fornece uma nova maneira de alocação de recursos para treinamento e inferência de modelos de IA. **

!

As redes de computação descentralizada (e redes de computação especializadas para treinamento e inferência) são atualmente os setores mais ativos e de crescimento mais rápido observados na área de DeAI. Isso está em linha com o fato de que os provedores de infraestrutura do mundo real estão colhendo os frutos abundantes da cadeia de valor da IA. Com a contínua escassez de recursos de computação, como GPUs, fabricantes de hardware com recursos de computação estão entrando nesse setor.

Caso Aethir:

Modelo de negócio: mercado bilateral de aluguer de poder de computação

O mercado de computação descentralizada essencialmente usa a tecnologia Web3 para estender o conceito de computação em grade em um ambiente economicamente incentivado e sem confiança. **Ao incentivar provedores de recursos, como CPUs e GPUs, a contribuir com poder de computação ocioso para a rede descentralizada, um mercado de serviços de poder de computação descentralizado com uma certa escala será formado; Ele também conecta os demandantes de recursos de computação (como provedores de modelos) para fornecer-lhes recursos de serviços de computação a um custo mais baixo e de uma forma mais flexível. O mercado de poder de computação descentralizada também é um desafio para provedores de serviços em nuvem com monopólios centralizados.

• O mercado descentralizado de poder computacional pode ser dividido ainda mais de acordo com o tipo de serviço que oferece: geral e especializado. A rede de computação geral funciona como uma nuvem descentralizada, fornecendo recursos de computação para diversos aplicativos. A rede de computação especializada é projetada para fins específicos e personalizados para casos de uso exclusivos. Por exemplo, a Render Network é uma rede de computação especializada em cargas de trabalho de renderização; a Gensyn é uma rede de computação especializada em treinamento de modelos de aprendizado de máquina; e o io.net é um exemplo de rede de computação geral.
• Para DeAI, um desafio importante ao treinar modelos em infraestruturas descentralizadas é a limitação de largura de banda e escala de computação, bem como a alta latência resultante do uso de hardware heterogêneo de fornecedores globais diversos. Portanto, ** uma rede de computação de IA dedicada pode fornecer recursos mais adequados para a IA do que uma rede de computação geral **. No momento, o treinamento centralizado de modelos de ML ainda é o projeto mais eficiente e estável, mas isso exige uma capacidade de capital muito alta por parte dos projetos.

Conclusão

A IA descentralizada, como uma tendência tecnológica emergente, está gradualmente demonstrando suas vantagens em termos de privacidade de dados, segurança e eficiência de custos. No próximo artigo, discutiremos os riscos e desafios enfrentados pela IA descentralizada, bem como suas direções futuras de desenvolvimento.