GLAAD a publié mercredi un rapport avertissant que les systèmes d’intelligence artificielle amplifient des biais anti-LGBTQ, de la désinformation et de la discrimination dans les domaines de la santé, de l’emploi, du logement et du crédit. Intitulé « Build for Everyone: A Framework for LGBTQ Representation and Safety in AI », le rapport soutient que l’IA entraînée sur des données biaisées ou incomplètes renforce les stéréotypes et produit des résultats discriminatoires à mesure que la technologie s’intègre de plus en plus dans la vie quotidienne. La présidente et directrice générale de GLAAD, Sarah Kate Ellis, a déclaré dans le rapport que « l’IA est une question de droits civiques » et a appelé les dirigeants du secteur technologique à créer de manière proactive des produits sûrs, en avertissant que la neutralité n’est plus une option dans le développement responsable de l’IA.
Le rapport de GLAAD identifie les principaux risques de biais d’IA pour les utilisateurs LGBTQ
Le rapport a relevé des sujets de préoccupation, notamment des données d’entraînement biaisées, de la désinformation anti-LGBTQ, des résultats discriminatoires dans des systèmes d’IA prédictive, des défaillances de modération de contenu et des risques liés à la vie privée. GLAAD a fait valoir que les systèmes d’IA entraînés avec des informations incomplètes ou inexactes sur les personnes LGBTQ peuvent renforcer les stéréotypes et étouffer les voix LGBTQ. L’étude indique que le fait de ne pas prendre en compte l’expérience des personnes LGBTQ dans les données d’entraînement, la conception des produits et la gouvernance peut entraîner des préjudices pour les communautés marginalisées et produire des produits inexacts et de qualité inférieure, susceptibles de miner la confiance des utilisateurs.
Le pouvoir d’achat LGBTQ atteint 4,7 trillions de dollars selon une étude de 2023
Ellis a soutenu dans le rapport que l’IA responsable est une exigence business pour pérenniser les entreprises d’IA, notant que plus de 20 % de la génération Z est LGBTQ. D’après une étude de 2023 du cabinet-conseil et firmes d’investissement LGBT Capital, le pouvoir d’achat mondial des personnes LGBTQ s’élève à 4,7 trillions de dollars, un chiffre estimé à 33 trillions de dollars d’ici 2030. Ellis a écrit que si les personnes LGBTQ étaient un pays, elles représenteraient la 4e plus grande économie du monde, affirmant que ces individus sont des futurs employés et consommateurs.
Des cas récents de biais d’IA incluent un procès de xAI et un bras de fer réglementaire au Colorado
Le rapport arrive dans un contexte de débat permanent sur les biais d’IA. En mai, des chercheurs ont constaté que des modèles d’IA de pointe favorisaient systématiquement le catholicisme tout en répondant de manière moins favorable aux Témoins de Jéhovah, à l’athéisme et à l’agnosticisme. Plus tôt ce mois-ci, l’ancien ingénieur de xAI Devin Kim a poursuivi xAI et SpaceX, alléguant qu’il avait été licencié après avoir prévenu que Grok ne disposait pas de garde-fous adéquats contre la désinformation et les biais. xAI mène une bataille juridique contre le Colorado au sujet d’une loi de l’État qui oblige les entreprises à évaluer et réduire les risques de discrimination dans les systèmes d’IA utilisés pour des décisions impliquant le logement, l’emploi et le crédit.
Les agents autonomes d’IA pourraient automatiser des résultats discriminatoires
GLAAD a averti que les inquiétudes deviennent plus importantes lorsque les entreprises poussent des agents d’IA capables d’effectuer des tâches avec une surveillance humaine limitée. L’étude indique que des agents autonomes pourraient hériter des biais existants et automatiser des résultats discriminatoires, comme exclure des prestataires de soins de santé affirmant les personnes LGBTQ des résultats de recherche ou formuler de mauvaises hypothèses sur l’identité des utilisateurs. Le rapport note que, même si ces défis ne sont pas spécifiques aux personnes LGBTQ, de nouveaux problèmes incluent des hallucinations du modèle ou un comportement complaisant qui génèrent de la désinformation sur des sujets à fort enjeu, comme la santé ou les élections.
GLAAD a appelé à améliorer les données d’entraînement et la supervision réglementaire
Pour empêcher les risques de s’ancrer davantage dans les systèmes d’IA, GLAAD a appelé les développeurs à améliorer la représentation des personnes LGBTQ dans les données d’entraînement, à renforcer les protections de la vie privée, à maintenir une supervision humaine des systèmes de modération et à travailler plus étroitement avec des groupes de plaidoyer. Le rapport appelle également à une responsabilisation accrue de l’industrie et à une supervision réglementaire plus stricte. Ellis a écrit que pour construire une IA éthique, inclusive et responsable, les dirigeants du secteur technologique doivent adopter de manière proactive des pratiques intentionnelles afin de créer des produits sûrs.
FAQ
De quoi GLAAD a-t-il averti au sujet des systèmes d’IA mercredi ?
GLAAD a publié mercredi un rapport avertissant que les systèmes d’IA amplifient des biais anti-LGBTQ, de la désinformation et de la discrimination dans les domaines de la santé, de l’emploi, du logement et du crédit. Le rapport soutient que l’IA entraînée sur des données biaisées ou incomplètes renforce les stéréotypes et produit des résultats discriminatoires.
Quel est le pouvoir d’achat mondial des personnes LGBTQ selon l’étude de 2023 ?
D’après une étude de 2023 du cabinet LGBT Capital, le pouvoir d’achat mondial des personnes LGBTQ s’élève à 4,7 trillions de dollars, un chiffre estimé à 33 trillions de dollars d’ici 2030. Plus de 20 % de la génération Z est LGBTQ, ce qui représente des futurs employés et consommateurs.
Quel procès a été déposé contre xAI plus tôt ce mois-ci ?
Plus tôt ce mois-ci, l’ancien ingénieur de xAI Devin Kim a poursuivi xAI et SpaceX, alléguant qu’il avait été licencié après avoir prévenu que Grok ne disposait pas de garde-fous adéquats contre la désinformation et les biais. xAI mène aussi une bataille juridique contre le Colorado au sujet d’une loi de l’État qui oblige les entreprises à évaluer et réduire les risques de discrimination dans les systèmes d’IA.
