Coseno: Tenha cuidado com ataques de envenenamento de prompts ao usar ferramentas de IA

2025-12-29 01:20:51

BlockBeats notícia, 29 de dezembro, o fundador da Slow Fog, Yu Xian, publicou um aviso de segurança. Os utilizadores ao usar ferramentas de IA devem estar atentos a ataques de envenenamento de prompts em agents md/skills md/mcp, já tendo surgido casos relacionados. Quando o modo de perigo das ferramentas de IA é ativado, essas ferramentas podem controlar automaticamente o computador do utilizador sem qualquer confirmação. No entanto, sem ativar o modo de perigo, cada operação requer confirmação do utilizador, o que também afetará a eficiência de uso.

Ver original

Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.

2 Curtidas