Notícias da Gate News: a empresa de inteligência artificial Anthropic anunciou que vai restringir o acesso ao seu novo sistema de IA Claude Mythos Preview. A razão é que, em testes iniciais, o sistema identificou milhares de vulnerabilidades críticas em software. O Mythos Preview é capaz de reconhecer falhas de segurança em sistemas operativos, navegadores web e normas de encriptação amplamente utilizados, o que levou a indústria a preocupar-se com os riscos potenciais da tecnologia de IA e com a sua escalabilidade.
A Anthropic afirmou que muitas das vulnerabilidades detetadas pelo modelo permaneciam há muito tempo sem correção, incluindo uma vulnerabilidade no OpenBSD com 27 anos, falhas no FFmpeg com 16 anos, vulnerabilidade de execução remota de código no FreeBSD com 17 anos, e vários outros problemas de segurança no kernel do Linux. Além disso, também há fraquezas em protocolos de encriptação como TLS, AES GCM e SSH. Em aplicações web, surgem ainda vulnerabilidades comuns como XSS, injeção de SQL e CSRF. A empresa sublinhou que 99% das vulnerabilidades encontradas ainda não foram corrigidas, e que uma divulgação prematura dos detalhes pode trazer riscos graves.
De acordo com dados do setor, prevê-se que os ataques à rede impulsionados por IA aumentem 72% em relação ao ano anterior, e que até 2025 87% das organizações a nível global poderão enfrentar ameaças de ataques por IA. A Anthropic referiu que a capacidade de detetar vulnerabilidades zero-day por IA, por um lado, pode acelerar a proteção do software contra ameaças, mas, por outro, se cair nas mãos de indivíduos mal-intencionados, continua a existir risco de abuso. Isto torna urgente a questão de como implementar e controlar com segurança este tipo de tecnologia.
A Anthropic planeia corrigir as vulnerabilidades existentes em conjunto com os parceiros, ao mesmo tempo que reduz os potenciais riscos associados a uma implantação mais ampla. A empresa considera que, a longo prazo, a IA reforçará a segurança da infraestrutura global de rede, tornando o software mais robusto, mas que a fase de transição ainda é desafiante. A estratégia de acesso limitado ao Mythos Preview mostra que as empresas estão a ponderar com cuidado a relação entre inovação tecnológica e proteção de segurança, de forma a evitar potenciais abusos.
Especialistas afirmam que as descobertas do Claude Mythos poderão impulsionar futuras mudanças nas práticas de segurança do software, acelerando a eficiência na deteção e correção de vulnerabilidades. Ao mesmo tempo, enfatizam que os sistemas globais de defesa de rede ainda precisam de ser reforçados para fazer face a novas ameaças trazidas pela tecnologia de IA.
Related Articles
Uma mulher de meia-idade em Hong Kong foi vítima de burla por romance online, tendo sofrido prejuízos superiores a 2 milhões de yuan; o burlão apresentou-se como um especialista em investimentos em criptomoedas
Golpe de romance online no Instagram: o “especialista” de investimento em criptomoedas enganou uma mulher de 50 anos e levou 2 milhões
Justin Sun Critica o Token WLFI por Preocupações com a Transparência
O contrato do Ethereum Hyperbridge HandlerV1 foi alvo de um ataque de replay de provas MMR, com perdas de cerca de 242.000 dólares
A ponte cross-chain Hyperbridge foi atacada, e o atacante cunhou 1 000 000 000 de tokens DOT para fazer pressão vendedora no mercado
Uma mulher em Hong Kong foi vítima de uma burla «semeadura de porcos» com criptomoeda, perdendo mais de 2 milhões de HKD