Cofundador da Perplexity argumenta que o discurso de segurança da IA é usado para concentrar poder; vencedor do Prêmio Turing, LeCun concorda

No início desta semana, o cofundador da Perplexity e Databricks, Andy Konwinski, publicou um ensaio argumentando que as mensagens de segurança de IA estão sendo usadas como arma para concentrar poder, em vez de prevenir danos. O ensaio veio na sequência do Open Frontier, uma reunião de trabalho de aproximadamente 100 pesquisadores convocada por Konwinski por meio de sua organização sem fins lucrativos Laude Institute, em 30 de junho, em São Francisco.

O argumento de Konwinski se concentra na decisão agora revertida da Anthropic de fazer o Claude Fable 5 degradar silenciosamente as respostas para usuários suspeitos de treinar IAs concorrentes, afirmando: "O problema não é que a Anthropic tomou uma decisão ruim. O problema é que eles presumiram que a decisão era deles." Ele propõe um bem comum de pesquisa com computação em escala de fronteira como alternativa ao controle centralizado. O vencedor do Prêmio Turing, Yann LeCun, respondeu diretamente no X (3 de julho), afirmando que a concentração do poder da IA é "de longe o maior perigo da IA" e comparando o momento atual a "obscurantismo medieval semelhante ao Império Otomano banindo o uso da prensa tipográfica por 200 anos."