Meta retira la herramienta de IA para imágenes de Instagram tras la polémica por privacidad relacionada con el scraping de rostros

Meta ha retirado una función de imágenes con IA recién lanzada en Instagram tras las críticas generalizadas por la forma en que gestionó las fotos y las semejanzas digitales de usuarios públicos. La herramienta, presentada como parte de la nueva plataforma Muse Image de la compañía, permitía a los usuarios generar imágenes creadas con IA haciendo referencia a cuentas públicas de Instagram. La decisión de eliminar la función llegó solo días después de su debut, lo que pone de manifiesto la creciente presión sobre las empresas tecnológicas para equilibrar la innovación en IA con la privacidad de los usuarios.

La función permitía automáticamente que los perfiles públicos de Instagram se utilizaran en imágenes generadas por IA, a menos que los usuarios cambiaran manualmente su configuración. Los críticos argumentaron que el enfoque predeterminado no ofreció un consentimiento significativo y expuso a las personas a un posible uso indebido de sus fotos.

Crecen las preocupaciones sobre el consentimiento digital

Defensores de la privacidad, creadores y grupos de la industria del entretenimiento plantearon rápidamente sus preocupaciones sobre los riesgos asociados a la función. Los críticos advirtieron que las imágenes generadas con IA basadas en fotos públicas de personas reales podrían contribuir a la suplantación de identidad, la desinformación, el acoso y las réplicas digitales no autorizadas.

Varias organizaciones argumentaron que los sistemas de IA capaces de recrear la apariencia de una persona deberían requerir permiso explícito en lugar de depender de un modelo de exclusión. La polémica también reavivó el debate sobre cómo las empresas de redes sociales recopilan y reutilizan contenido disponible públicamente para productos de IA generativa.

Meta reconoció las críticas y dijo que la función “no dio en el clavo”. La compañía confirmó que ha desactivado la capacidad, mientras continúa desarrollando herramientas creativas impulsadas por IA con controles de usuario más sólidos.

La regulación de la IA sigue en el punto de mira

El incidente subraya el escrutinio cada vez mayor al que se enfrentan los desarrolladores de IA mientras los gobiernos y los reguladores analizan cómo los datos personales y las identidades digitales se utilizan para entrenar y habilitar tecnologías nuevas. Las empresas que compiten por lanzar productos avanzados de IA se enfrentan ahora a expectativas cada vez mayores de incorporar protecciones de privacidad en sus sistemas desde el principio.

Para Meta, la marcha atrás supone un recordatorio de que la aceptación pública de la IA depende no solo de las capacidades técnicas, sino también de la transparencia, el consentimiento y la confianza. A medida que se intensifica la competencia en el mercado de la IA generativa, es probable que las empresas tecnológicas enfrenten una mayor presión para demostrar que la innovación no se produce a costa de los derechos de privacidad individuales.