Grok genera más de 20,000 imágenes de menores en 11 días. La UE inicia una investigación y podría sancionar con hasta el 6% de los ingresos anuales

La Unión Europea inicia oficialmente una investigación por la controversia de imágenes profundas falsas en X y Grok, relacionada con contenido de menores y fallos en la gobernanza de la plataforma, enfrentándose a posibles multas elevadas.

¡El martillo regulador vuelve! La UE lanza una investigación de cumplimiento del DSA contra la plataforma X

Según reportes de la BBC, la Comisión Europea anunció el 26 de enero que ha iniciado procedimientos legales contra la plataforma de redes sociales X, propiedad del multimillonario Elon Musk. La acción se centra en el chatbot de inteligencia artificial Grok, que se acusa de haber generado en un corto período de tiempo millones de imágenes deepfake no autorizadas, incluyendo contenido inapropiado que involucra a menores.

Fuente de la imagen: Europa La Comisión Europea anuncia oficialmente el inicio de procedimientos legales contra la plataforma X, propiedad de Elon Musk

Según una investigación preliminar de las autoridades regulatorias, los usuarios pueden modificar fotos de personas reales en imágenes sintéticas virtuales mediante comandos a Grok. El abuso de esta tecnología ha generado preocupaciones serias en la UE sobre la seguridad de la IA y la difusión de contenido ilegal. La UE evaluará, bajo el marco del 《Digital Services Act》 (DSA), si X cumple con sus obligaciones legales, incluyendo la evaluación de riesgos de contenido ilegal, medidas de mitigación y la marcada explícita de contenido generado o manipulado por IA.

Lecturas relacionadas
Grok involucrado en explotación sexual bajo vigilancia de 9 regiones principales ¡Reino Unido inicia investigación, posibles multas astronómicas si se violan las leyes!
El caos de las modificaciones de Grok por Musk: influencers y menores desnudados por IA, varios países investigan

Datos impactantes: cada 41 segundos se genera una imagen de pornografía infantil

Según el último informe del Centro para la Contrarrestación del Odio Digital (Center for Countering Digital Hate, CCDH), en los 11 días desde finales de diciembre de 2025 hasta principios de enero de 2026, Grok habría producido aproximadamente 3 millones de imágenes deepfake con insinuaciones sexuales. Los datos muestran que, de esas, 23,338 involucraban a menores en contenido sexualizado, lo que significa que en promedio, cada 41 segundos se genera una imagen que vulnera los derechos infantiles.

Aunque Musk inicialmente ridiculizó estos informes, incluso calificándolos como “mentiras de los medios tradicionales”, y afirmó que el sistema está diseñado para rechazar solicitudes ilegales, los investigadores señalan que el problema radica en que, aunque Grok puede filtrar contenido completamente desnudo, puede fácilmente generar imágenes de menores con ropa ligera y en poses provocativas. Hasta mediados de enero, aproximadamente un tercio de las imágenes controvertidas permanecían en X, evidenciando fallos significativos en los mecanismos de censura de contenido sintético.

Tempestad política y retrasos: de la crisis de Groenlandia a la retirada de funcionarios irlandeses

Este escándalo ha causado un gran revuelo en la política europea, con varios ministros irlandeses cerrando sus cuentas en X en señal de protesta. La eurodiputada Regina Doherty apoyó públicamente la decisión de la Comisión, destacando que ninguna empresa que opere en la UE está por encima de la ley, y llamando a sanciones inmediatas y efectivas contra quienes dañan a mujeres y niños.

Es importante señalar que, según el medio alemán Handelsblatt, la UE había planeado iniciar esta investigación antes, pero fue retrasada debido a la crisis diplomática provocada por la intención del presidente estadounidense Donald Trump de adquirir Groenlandia. Además, X ya había sido multada en diciembre de 2025 con 120 millones de euros por incumplimiento del DSA, incluyendo engaños con la marca azul y falta de transparencia en publicidad, sanción que fue criticada duramente por políticos como Marco Rubio, quienes consideraron que era un ataque dirigido a las empresas tecnológicas estadounidenses.

Lecturas relacionadas
¿Se suspenden los aranceles a Canadá? Trump en Davos habla de Groenlandia: quiere, pero no usará la fuerza para tomarla

Multa máxima del 6% de los ingresos anuales, la prueba definitiva de la regulación de IA

Con la apertura del procedimiento formal, X podría enfrentarse a sanciones financieras muy severas. Según el 《Digital Services Act》, si se determina que la plataforma ha cometido infracciones graves, la Comisión Europea puede imponer multas de hasta el 6% de los ingresos anuales globales del grupo. Este caso no solo evalúa la conformidad de X, sino que también sirve como una prueba clave de cómo la UE abordará los desafíos tecnológicos emergentes bajo el 《Artificial Intelligence Act》 y el DSA.

Las autoridades regulatorias están vigilando de cerca si X puede presentar medidas correctivas efectivas, como la compañía xAI que ha anunciado restricciones geográficas en regiones ilegales y la implementación de barreras tecnológicas en la generación de imágenes para evitar que los usuarios digitalicen y “despíen” a otros. Sin embargo, para los defensores de la seguridad digital, el resultado de esta investigación será decisivo para determinar si las grandes plataformas tecnológicas podrán innovar tecnológicamente sin dejar de asumir la responsabilidad social de proteger a los usuarios de los daños de los medios sintéticos.