El informe de GLAAD advierte que los sistemas de IA amplifican el sesgo anti-LGBTQ en sectores clave

GLAAD publicó el miércoles un informe en el que advierte que los sistemas de inteligencia artificial están amplificando el sesgo anti-LGBTQ, la desinformación y la discriminación en sectores como la atención sanitaria, el empleo, la vivienda y los préstamos. El informe, titulado 'Build for Everyone: A Framework for LGBTQ Representation and Safety in AI,' sostiene que la IA entrenada con datos sesgados o incompletos refuerza los estereotipos y produce resultados discriminatorios a medida que la tecnología se integra cada vez más en la vida cotidiana. La presidenta y directora ejecutiva de GLAAD, Sarah Kate Ellis, declaró en el informe que 'la IA es un asunto de derechos civiles' y pidió a los líderes tecnológicos que creen proactivamente productos seguros, advirtiendo que la neutralidad ya no es una opción en el desarrollo responsable de la IA.

El informe de GLAAD identifica riesgos centrales de sesgo en IA para usuarios LGBTQ

El informe señaló áreas de preocupación, como datos de entrenamiento sesgados, desinformación anti-LGBTQ, resultados discriminatorios en sistemas predictivos de IA, fallas en la moderación de contenidos y riesgos para la privacidad. GLAAD argumentó que los sistemas de IA entrenados con información incompleta o inexacta sobre personas LGBTQ pueden reforzar estereotipos y silenciar las voces LGBTQ. El estudio indicó que no considerar las experiencias LGBTQ en los datos de entrenamiento, el diseño de productos y la gobernanza puede causar daños a comunidades marginadas y producir productos inexactos y de menor calidad que podrían menoscabar la confianza de los usuarios.

El poder adquisitivo LGBTQ alcanza 4,7 billones de dólares según un estudio de 2023

Ellis sostuvo en el informe que la IA responsable es un requisito empresarial para que las compañías de IA sean resistentes al futuro, señalando que más del 20 por ciento de la Generación Z es LGBTQ. Según un estudio de 2023 de la firma de asesoría e inversión LGBT Capital, el poder adquisitivo global de las personas LGBTQ es de 4,7 billones de dólares, cifra que se estima que alcance los 33 billones de dólares para 2030. Ellis escribió que, si las personas LGBTQ fueran un país, representarían la 4.ª economía más grande del mundo, afirmando que estas personas son futuros empleados y consumidores.

Casos recientes de sesgo en IA incluyen demanda de xAI y batalla regulatoria en Colorado

El informe llega en medio de un debate continuo sobre el sesgo en IA. En mayo, investigadores hallaron que modelos líderes de IA favorecían de forma consistente el catolicismo al responder con menos favorabilidad a los testigos de Jehová, el ateísmo y el agnosticismo. A principios de este mes, el ex ingeniero de xAI Devin Kim demandó a xAI y a SpaceX, alegando que fue despedido después de advertir que Grok carecía de salvaguardas adecuadas contra la desinformación y el sesgo. xAI libra una batalla legal contra Colorado por una ley estatal que exige a las empresas evaluar y reducir los riesgos de discriminación en sistemas de IA usados para decisiones relacionadas con vivienda, empleo y préstamos.

Los agentes autónomos de IA podrían automatizar resultados discriminatorios

GLAAD advirtió que las preocupaciones se vuelven más significativas a medida que las compañías impulsan agentes de IA capaces de realizar tareas con supervisión humana limitada. El estudio indicó que los agentes autónomos podrían heredar sesgos existentes y automatizar resultados discriminatorios, como excluir proveedores de atención sanitaria que afirman a personas LGBTQ de los resultados de búsqueda o hacer suposiciones incorrectas sobre las identidades de los usuarios. El informe señaló que, aunque no es específico para personas LGBTQ, los desafíos emergentes incluyen alucinaciones del modelo o un comportamiento servil que genera desinformación sobre temas trascendentes como la salud o las elecciones.

GLAAD pidió mejorar los datos de entrenamiento y la supervisión regulatoria

Para evitar que los riesgos se integren aún más en los sistemas de IA, GLAAD pidió a los desarrolladores que mejoren la representación LGBTQ en los datos de entrenamiento, fortalezcan las protecciones de privacidad, mantengan la supervisión humana de los sistemas de moderación y trabajen con más cercanía con grupos de defensa. El informe también pidió una mayor rendición de cuentas de la industria y una supervisión regulatoria más estricta. Ellis escribió que, para construir una IA ética, inclusiva y responsable, los líderes tecnológicos deben adoptar de manera proactiva prácticas intencionales para crear productos seguros.

FAQ

¿Qué advirtió GLAAD sobre los sistemas de IA el miércoles? GLAAD publicó el miércoles un informe advirtiendo que los sistemas de IA están amplificando el sesgo anti-LGBTQ, la desinformación y la discriminación en la atención sanitaria, el empleo, la vivienda y los préstamos. El informe sostiene que la IA entrenada con datos sesgados o incompletos refuerza los estereotipos y produce resultados discriminatorios.

¿Cuál es el poder adquisitivo global de las personas LGBTQ según el estudio de 2023? Según un estudio de 2023 de LGBT Capital, el poder adquisitivo global de las personas LGBTQ es de 4,7 billones de dólares, y se estima que esa cifra alcance los 33 billones de dólares para 2030. Más del 20 por ciento de la Generación Z es LGBTQ, lo que representa a futuros empleados y consumidores.

¿Qué demanda se presentó contra xAI a principios de este mes? A principios de este mes, el ex ingeniero de xAI Devin Kim demandó a xAI y a SpaceX, alegando que fue despedido después de advertir que Grok carecía de salvaguardas adecuadas contra la desinformación y el sesgo. xAI también libra una batalla legal contra Colorado por una ley estatal que exige a las empresas evaluar y reducir los riesgos de discriminación en sistemas de IA.