A UE inicia oficialmente uma investigação sobre a controvérsia de deepfakes entre X e Grok, envolvendo conteúdo de menores e falhas na governança da plataforma, podendo enfrentar multas elevadas.
A repressão regulatória regressa! A UE inicia oficialmente uma investigação de conformidade com a DSA na plataforma X
De acordo com a reportagem da BBC, a Comissão Europeia anunciou a 26 de janeiro que iniciou procedimentos legais contra a plataforma de redes sociais X, propriedade do bilionário Elon Musk. O foco principal desta ação é o chatbot de inteligência artificial Grok, que foi acusado de gerar milhões de imagens deepfake não autorizadas em um curto espaço de tempo, incluindo conteúdo inadequado envolvendo menores.
Fonte da imagem: Europa A Comissão Europeia anunciou oficialmente o início de procedimentos legais contra a plataforma X, de Elon Musk
Segundo uma investigação preliminar das autoridades reguladoras, os utilizadores podem, ao emitir comandos ao Grok, modificar fotos reais de pessoas para criar imagens virtuais sintéticas. O uso indevido desta tecnologia já levantou preocupações sérias na UE sobre a segurança da IA e a disseminação de conteúdos ilegais. A UE avaliará, com base na Digital Services Act (DSA), se a plataforma X cumpriu suas obrigações legais, incluindo a avaliação de riscos de conteúdos ilegais, medidas de mitigação e a marcação clara de conteúdos gerados ou manipulados por IA.
Leitura adicional
Grok envolvido em exploração sexual infantil sob vigilância de 9 regiões! Reino Unido inicia investigação, com multas potencialmente altas
Múltiplas violações de Grok por alterações de imagens! Coser, menores desnudados por IA, vários países investigam
Dados revelam impacto alarmante: uma imagem de abuso infantil a cada 41 segundos
De acordo com o mais recente relatório do Centro de Combate ao Ódio Digital (Center for Countering Digital Hate, CCDH), entre o final de dezembro de 2025 e o início de janeiro de 2026, em apenas 11 dias, o Grok teria produzido aproximadamente 3 milhões de imagens deepfake com conotação sexual. Os dados mostram que, entre essas, 23.338 envolviam menores de idade, o que significa que, em média, uma imagem que viola os direitos das crianças era gerada a cada 41 segundos.
Apesar de Elon Musk inicialmente ter respondido às reportagens com sarcasmo, chegando a chamar as alegações de “mentiras da mídia tradicional” e afirmando que o sistema foi projetado para rejeitar pedidos ilegais, os pesquisadores apontam que o problema central é que, embora o Grok possa filtrar conteúdos nus completos, ele pode facilmente gerar imagens de menores usando roupas leves ou em poses sugestivas. Até meados de janeiro, cerca de um terço das imagens controversas ainda permaneciam na plataforma X, indicando que os mecanismos de moderação de conteúdo da plataforma apresentam falhas significativas na gestão de mídia sintética.
Tempestade política e atrasos: da crise de Groenlândia à saída de oficiais irlandeses
Este escândalo causou grande impacto na política europeia, levando vários ministros irlandeses a fecharem seus perfis na X como forma de protesto. A deputada do Parlamento Europeu Regina Doherty apoiou publicamente a decisão da Comissão, destacando que nenhuma empresa operando na UE está acima da lei, e pediu ações rápidas e eficazes contra atos que prejudicam mulheres e crianças.
É importante notar que, segundo a mídia alemã Handelsblatt, a UE planejava iniciar esta investigação mais cedo, mas o procedimento foi adiado devido à crise diplomática gerada pela tentativa do presidente dos EUA, Donald Trump, de adquirir Groenlândia. Além disso, a plataforma X já havia sido multada em 120 milhões de euros em dezembro de 2025 por violações do DSA, incluindo publicidade enganosa com marca de verificação azul e falta de transparência em anúncios, críticas feitas por políticos como Marco Rubio, que consideraram a multa uma ação direcionada às empresas tecnológicas americanas.
Leitura adicional
Suspensão de tarifas sobre o Canadá! Trump em Davos discute Groenlândia: quer, mas não usará força para tomar
A multa máxima de 6% do faturamento anual, o teste final da legislação de IA
Com o início formal do procedimento, a plataforma X pode enfrentar penalidades financeiras extremamente pesadas. Segundo a DSA, se for constatada uma violação grave, a Comissão Europeia pode aplicar uma multa de até 6% do faturamento global anual da empresa. Este caso não é apenas uma avaliação de conformidade da plataforma X, mas também um teste de como a UE responderá aos desafios das novas tecnologias sob o quadro do AI Act e da DSA.
As autoridades reguladoras estão monitorando de perto se a X apresentará medidas corretivas eficazes, como a empresa xAI já anunciou que implementará restrições geográficas em regiões ilegais e aumentará barreiras técnicas na geração de imagens, para impedir que os usuários digitalizem e criem imagens de pessoas nuas ou sugestivas. No entanto, para os defensores da segurança digital, o resultado desta investigação determinará se as grandes plataformas tecnológicas poderão, no futuro, equilibrar inovação tecnológica com a responsabilidade social de proteger os usuários de danos causados por mídia sintética.
Isenção de responsabilidade: As informações contidas nesta página podem ser provenientes de terceiros e não representam os pontos de vista ou opiniões da Gate. O conteúdo apresentado nesta página é apenas para referência e não constitui qualquer aconselhamento financeiro, de investimento ou jurídico. A Gate não garante a exatidão ou o carácter exaustivo das informações e não poderá ser responsabilizada por quaisquer perdas resultantes da utilização destas informações. Os investimentos em ativos virtuais implicam riscos elevados e estão sujeitos a uma volatilidade de preços significativa. Pode perder todo o seu capital investido. Compreenda plenamente os riscos relevantes e tome decisões prudentes com base na sua própria situação financeira e tolerância ao risco. Para mais informações, consulte a
Isenção de responsabilidade.
