Vitalik: Segurança e experiência do utilizador não são domínios independentes, minimizando a intenção de objetivo e o desvio do comportamento do sistema

Foresight News informa que, Vitalik Buterin, no Farcaster, afirmou que o objetivo da segurança é minimizar o desvio entre a intenção do utilizador e o comportamento real do sistema. A “experiência do utilizador” pode ser definida da mesma forma; portanto, segurança e experiência do utilizador não são domínios independentes. A segurança concentra-se mais nos riscos de cauda (custos elevados de desvio) e nos riscos de cauda gerados por comportamentos adversários. Segurança perfeita é impossível, pois a “intenção do utilizador” é extremamente complexa, sendo difícil para o utilizador expressar claramente (por exemplo, “enviar 1 ETH para Bob”, onde Bob não pode ser definido matematicamente). Objetivos mais complexos, como “proteger a privacidade”, também são difíceis de definir (a fuga de metadados ultrapassa em muito a criptografia em si). Isto é semelhante aos problemas de segurança na IA inicial: os objetivos são difíceis de definir de forma robusta.

As melhores soluções de segurança devem incluir características como: o utilizador expressa a intenção de múltiplas formas sobrepostas, e o sistema só executa quando há alinhamento em múltiplos ângulos. Exemplos incluem sistemas de tipos na programação, verificação formal, simulação de transações, afirmações pós-transação, multi-assinaturas / recuperação social, limites de gastos e confirmações de exceções, reduzindo riscos através de redundância. Além disso, LLMs podem ser utilizados como simulação de intenções (LLMs gerais aproximam o conhecimento comum humano, e o ajuste fino pelo utilizador aproxima-se do próprio utilizador), mas nunca devem decidir a intenção sozinhos, servindo apenas como uma complementação de diferentes ângulos para aumentar a eficácia da redundância.