Autor: Gary Marcus, Compiler: Heart of the Metaverse (MetaverseHub)
Além do fato de que o LK-99, apelidado de supercondutor de temperatura ambiente, pode ser uma moda passageira, nunca vi nada mais badalado do que inteligência artificial generativa. Muitas empresas foram avaliadas na casa dos bilhões e as notícias abundavam; todos, do Vale do Silício a Washington e Genebra, estavam falando sobre isso.
Mas, na realidade, a receita atual não atendeu às expectativas e pode até nunca atingir.
Essas avaliações projetam um mercado de trilhões de dólares, mas atualmente há rumores de que a receita real da IA generativa está na casa das centenas de milhões de dólares. Embora essas receitas possam crescer 1.000 vezes, isso é pura especulação. Não devemos simplesmente presumir que isso acontecerá.
Até agora, a maior parte da receita parece vir de escrever código semiautomático (os programadores gostam de usar ferramentas de geração como assistentes) e escrever textos.
Acho que os programadores ficarão felizes em usar as ferramentas assistivas da IA generativa; seu recurso de preenchimento automático é muito útil para seu trabalho e eles são treinados para encontrar e corrigir erros incomuns. Os alunos de graduação continuarão a usar IA generativa, mas seus bolsos estarão apertados (e eles provavelmente recorrerão a concorrentes de código aberto).
Outros potenciais clientes pagantes podem perder o interesse rapidamente. O influente capitalista de risco Benedict Evans abordou o assunto em uma série de artigos no “X” (anteriormente Twitter) esta manhã:
Amigos meus que tentaram usar o ChatGPT para responder a pesquisas para ajudar na pesquisa acadêmica enfrentaram decepções semelhantes. Um advogado foi repreendido por um juiz por usar o ChatGPT em pesquisas jurídicas e prometeu por escrito não usá-lo sem supervisão no futuro. Algumas semanas atrás, uma reportagem dizia que o uso do GPT pode estar diminuindo.
Se a experiência de Evans for um sinal de alerta, todo o campo da IA generativa, nas avaliações atuais, pode estar chegando ao fim rapidamente. Os programadores continuarão a usá-lo, assim como os profissionais de marketing que precisam escrever muitos direitos autorais para promover seus produtos e melhorar suas classificações nos mecanismos de pesquisa. Mas seja codificação ou velocidade e copywriting medíocre, está longe de ser suficiente para manter o sonho de avaliação atual.
Até mesmo a OpenAI está lutando para alcançar sua avaliação de US$ 29 bilhões; startups concorrentes com avaliações tão baixas quanto bilhões provavelmente fecharam as portas. A Microsoft, que quase reduziu pela metade o preço de suas ações este ano, talvez em grande parte com esperanças de inteligência artificial, pode cair; a NVIDIA, que disparou ainda mais, também pode recuar.
Recentemente, discuti essa questão com Roger McNamee, um pioneiro no espaço de investimento em software. Talvez o único caso de uso econômico que realmente nos atrai seja a pesquisa. Por exemplo, usar o Bing powered by ChatGPT em vez da Pesquisa do Google, mas os problemas técnicos associados são enormes; não temos motivos para pensar que o problema da “ilusão” será resolvido tão cedo. Se não for resolvida, a bolha pode estourar facilmente.
Mas não é apenas toda a economia de IA generativa que me preocupa agora, baseada mais em expectativas do que no uso comercial real, o potencial para correções massivas e angustiantes no futuro, mas também o fato de que estamos transformando mundos e países inteiros em políticas são construídas com base na premissa de que a geração de IA mudará o mundo, o que, em retrospectiva, pode não ser realista.
No nível nacional, as medidas regulatórias para proteger os consumidores (por exemplo, em torno da privacidade, reduzindo o viés, exigindo transparência de dados, combatendo a desinformação etc.) Podemos não ter as proteções ao consumidor de que precisamos porque estamos tentando criar algo que pode não crescer conforme o esperado.
Na minha opinião, quase todo mundo comete um erro fundamental, que é pensar que inteligência artificial generativa é equivalente a AGI (inteligência artificial geral, inteligência e estado de alerta iguais ou superiores aos humanos).
Talvez as pessoas em todos os setores queiram que você acredite que a AGI está chegando. Isso alimenta sua narrativa de inevitabilidade e impulsiona seus preços de ações e avaliações de startups. O CEO da Anthropic, Dario Amodei, previu recentemente que atingiremos o AGI dentro de 2 a 3 anos. Demis Hassabis, CEO do Google DeepMind, também fez uma previsão para AGI de curto prazo.
Eu duvido muito. Enfrentamos não um, mas muitos problemas sérios e não resolvidos no centro da IA generativa, desde sua suscetibilidade a alucinações e desinformação, até sua incapacidade de se comunicar de maneira confiável com o externo De encaixe confiável de ferramentas à instabilidade mês a mês ( o que os torna impraticáveis para aplicações de engenharia em grandes sistemas).
A realidade é que não temos nenhuma razão concreta para pensar que uma solução para esses problemas seja iminente, além do puro otimismo tecnológico. Dimensionar um sistema aumentando seu tamanho ajuda em alguns aspectos, mas não em outros; ainda não podemos garantir que qualquer sistema específico seja honesto, inofensivo ou benéfico, em vez de lisonjeiro, desonesto, prejudicial ou tendencioso.
Pesquisadores de IA vêm trabalhando nessas questões há anos. É irreal imaginar que todos esses problemas desafiadores serão subitamente resolvidos. Há 22 anos venho reclamando de insetos alucinados, as pessoas prometem que as soluções estão chegando, mas elas nunca se concretizam. Porque nossa tecnologia atual é baseada no preenchimento automático, não em fatos.
Por algum tempo, tais preocupações caíram em ouvidos surdos; mas recentemente alguns líderes de tecnologia parecem finalmente entender. Apenas alguns dias atrás, a revista Fortune publicou tal relatório:
A IA generativa provavelmente não será capaz de gerar trilhões de dólares por ano se o problema da alucinação não for resolvido. Se não gerar uma produção de trilhões de dólares, pode não ter o impacto esperado. Se não tiver esse efeito, talvez não devêssemos construir nosso mundo com base nessa premissa.
