Foresight News informa que, Vitalik Buterin, no Farcaster, afirmou que o objetivo da segurança é minimizar o desvio entre a intenção do utilizador e o comportamento real do sistema. A “experiência do utilizador” pode ser definida da mesma forma; portanto, segurança e experiência do utilizador não são domínios independentes. A segurança concentra-se mais nos riscos de cauda (custos elevados de desvio) e nos riscos de cauda gerados por comportamentos adversários. Segurança perfeita é impossível, pois a “intenção do utilizador” é extremamente complexa, sendo difícil para o utilizador expressar claramente (por exemplo, “enviar 1 ETH para Bob”, onde Bob não pode ser definido matematicamente). Objetivos mais complexos, como “proteger a privacidade”, também são difíceis de definir (a fuga de metadados ultrapassa em muito a criptografia em si). Isto é semelhante aos problemas de segurança na IA inicial: os objetivos são difíceis de definir de forma robusta.
As melhores soluções de segurança devem incluir características como: o utilizador expressa a intenção de múltiplas formas sobrepostas, e o sistema só executa quando há alinhamento em múltiplos ângulos. Exemplos incluem sistemas de tipos na programação, verificação formal, simulação de transações, afirmações pós-transação, multi-assinaturas / recuperação social, limites de gastos e confirmações de exceções, reduzindo riscos através de redundância. Além disso, LLMs podem ser utilizados como simulação de intenções (LLMs gerais aproximam o conhecimento comum humano, e o ajuste fino pelo utilizador aproxima-se do próprio utilizador), mas nunca devem decidir a intenção sozinhos, servindo apenas como uma complementação de diferentes ângulos para aumentar a eficácia da redundância.
Related Articles
A cadeia de beacon da Ethereum detém mais de 82 milhões de ETH em contratos de staking, representando 68% da oferta total
O blockchain pós-quântico do Naoris Protocol entra em funcionamento à medida que Bitcoin e Ethereum enfrentam ameaças de “Q-Day”
Depois de a Naoris ser lançada na cadeia de blocos quântica, oferece garantias de segurança quântica para ativos de Bitcoin e Ethereum
A Fundação Ethereum faz nova recompromissa de 46,64 milhões de dólares em ETH, perfazendo um total acumulado de 96,59 milhões de dólares em garantias