A UE investiga a X por alegadas falhas em conter conteúdo ilegal do Grok AI

Resumo

• A UE lançou uma investigação para determinar se a X avaliou corretamente os riscos antes de implementar os recursos de IA do Grok.
• A investigação irá examinar a conformidade da X com as obrigações do Digital Services Act da região.
• Marca a mais recente repressão da Europa contra deepfakes gerados por IA, com vários países a banirem o Grok devido a preocupações com a segurança infantil.

A Comissão Europeia iniciou na segunda-feira uma investigação formal para determinar se a X violou as regras digitais da UE ao supostamente não impedir que o seu chatbot de IA, Grok, gerasse e espalhasse conteúdo ilegal, incluindo imagens sexualmente explícitas de crianças. A investigação avaliará se a empresa avaliou e mitigou adequadamente os riscos antes de lançar os recursos de geração de imagens do Grok, afirmou a Comissão numa declaração de segunda-feira. A Comissão também afirmou que esses riscos se materializaram através da geração e disseminação de conteúdo sexual ilegal, expondo os cidadãos da UE a danos graves. 

O caso ocorre num contexto de crescente escrutínio internacional sobre o papel do Grok na criação de deepfakes não consensuais. Há duas semanas, a X implementou restrições, limitando a geração de imagens a assinantes pagos, e adicionou barreiras técnicas para impedir que os utilizadores manipulassem digitalmente pessoas para revelar roupas. A empresa também bloqueou a funcionalidade em jurisdições onde esse conteúdo é ilegal. Apesar dessas medidas, investigadores descobriram que cerca de um terço das imagens sexualizadas de crianças identificadas na amostra do CCDH permanecia acessível na plataforma da X. "Com esta investigação, vamos determinar se a X cumpriu as suas obrigações legais ao abrigo do DSA, ou se tratou os direitos dos cidadãos europeus — incluindo os de mulheres e crianças — como danos colaterais do seu serviço”, afirmou Henna Virkkunen, Vice-Presidente Executiva para Soberania Tecnológica, Segurança e Democracia, na declaração.

No início deste mês, o porta-voz da Comissão da UE, Thomas Regnier, condenou a funcionalidade “Spicy Mode” da X numa conferência de imprensa em Bruxelas. “Isto não é spicy. Isto é ilegal. Isto é revoltante. Isto é repugnante. Não tem lugar na Europa”, afirmou Regnier. Fraser Edwards, cofundador e CEO da cheqd, disse ao Decrypt que “todo criador deveria poder controlar como a sua imagem é usada em conteúdos gerados por IA.” Ele afirma que “a reação negativa ao abuso de deepfake evidencia uma falha básica da própria internet.” “Ainda não existe uma forma nativa de verificar quem criou um conteúdo sintético ou se o seu uso foi autorizado”, acrescentou Edwards, deixando a responsabilidade de continuar a “depender de intermediários como a X em vez das pessoas responsáveis pela geração do abuso.” Se for comprovado, as falhas sob investigação constituiriam violações dos Artigos 34(1) e (2), 35(1) e 42(2) do Digital Services Act, que exigem que as plataformas avaliem e mitiguem riscos sistémicos, incluindo a disseminação de conteúdo ilegal e efeitos negativos relacionados com violência de género. A investigação da UE estende um caso do DSA de final de 2023 que resultou numa multa de 140 milhões de dólares (€120 milhões) contra a X em dezembro, por design enganoso, falhas na transparência de anúncios e acesso limitado a investigadores. Desde então, a Comissão ampliou o escrutínio ao Grok, incluindo preocupações anteriores sobre conteúdo antissemita gerado pelo chatbot.

Decrypt contactou a xAI para mais comentários.