GLAAD veröffentlichte am Mittwoch einen Bericht, der davor warnt, dass KI-Systeme anti-LGBTQ-Voreingenommenheit, Fehlinformationen und Diskriminierung in den Bereichen Gesundheitswesen, Beschäftigung, Wohnen und Kredite verstärken. Der Bericht mit dem Titel „Build for Everyone: A Framework for LGBTQ Representation and Safety in AI“ argumentiert, dass KI, die auf voreingenommenen oder unvollständigen Daten trainiert wurde, Stereotype verstärkt und diskriminierende Ergebnisse hervorbringt, während die Technologie zunehmend im alltäglichen Leben verankert wird. GLAAD-Präsidentin und CEO Sarah Kate Ellis erklärte in dem Bericht, „KI ist ein Thema der Bürgerrechte“, und forderte Tech-Führungskräfte dazu auf, proaktiv sichere Produkte zu entwickeln, und warnte, dass Neutralität in einer verantwortungsvollen KI-Entwicklung nicht mehr als Option gilt.
GLAAD-Bericht identifiziert zentrale KI-Bias-Risiken für LGBTQ-Nutzer
Der Bericht nannte Bereiche, die Anlass zur Sorge geben, darunter voreingenommene Trainingsdaten, anti-LGBTQ-Fehlinformationen, diskriminierende Ergebnisse in prädiktiven KI-Systemen, Fehler bei der Inhaltsmoderation und Datenschutzrisiken. GLAAD argumentierte, dass KI-Systeme, die auf unvollständigen oder unzutreffenden Informationen über LGBTQ-Personen trainiert wurden, Stereotype verstärken und LGBTQ-Stimmen unterdrücken können. Die Studie stellte fest, dass das Versäumnis, LGBTQ-Erfahrungen in Trainingsdaten, Produktdesign und Governance zu berücksichtigen, zu Schaden für marginalisierte Gemeinschaften führen und ungenaue, qualitativ niedrigere Produkte hervorbringen kann, die das Vertrauen der Nutzer möglicherweise untergraben.
LGBTQ-Kaufkraft erreicht 4,7 Billionen US-Dollar laut Studie aus 2023
Ellis argumentierte in dem Bericht, dass verantwortungsvolle KI eine geschäftliche Notwendigkeit für die Zukunftssicherheit von KI-Unternehmen ist, und verwies darauf, dass mehr als 20 Prozent der Gen Z LGBTQ sind. Laut einer Studie aus 2023 der Beratungs- und Investmentfirma LGBT Capital beträgt die globale Kaufkraft von LGBTQ-Personen 4,7 Billionen US-Dollar; diese Zahl werde bis 2030 voraussichtlich auf 33 Billionen US-Dollar steigen. Ellis schrieb, wenn LGBTQ-Personen ein Land wären, würden sie die viertgrößte Volkswirtschaft der Welt darstellen, und erklärte, diese Menschen seien zukünftige Beschäftigte und Konsumenten.
Jüngste KI-Bias-Fälle umfassen die Klage von xAI und den Regulierungskampf in Colorado
Der Bericht erscheint vor dem Hintergrund einer anhaltenden Debatte über KI-Bias. Im Mai fanden Forschende, dass führende KI-Modelle bei der Beantwortung von Fragen durchgängig den Katholizismus bevorzugten, während sie auf Jehovas Zeugen, Atheismus und Agnostizismus weniger wohlwollend reagierten. Anfang dieses Monats klagte der ehemalige xAI-Ingenieur Devin Kim xAI und SpaceX an und machte geltend, er sei entlassen worden, nachdem er gewarnt hatte, dass Grok nicht über ausreichende Schutzvorkehrungen gegen Fehlinformationen und Bias verfüge. xAI kämpft zudem in einem Rechtsstreit gegen Colorado um ein Landesgesetz, das Unternehmen dazu verpflichtet, Diskriminierungsrisiken in KI-Systemen, die für Entscheidungen im Bereich Wohnen, Beschäftigung und Kredite eingesetzt werden, zu bewerten und zu reduzieren.
Autonome KI-Agenten könnten diskriminierende Ergebnisse automatisieren
GLAAD warnte, dass die Bedenken noch größer werden, wenn Unternehmen KI-Agenten vorantreiben, die Aufgaben mit nur begrenzter menschlicher Aufsicht ausführen können. Die Studie stellte fest, dass autonome Agenten bestehende Vorurteile übernehmen und diskriminierende Ergebnisse automatisieren könnten, etwa indem sie LGBTQ-bestärkende Gesundheitsdienstleister von Suchergebnissen ausschließen oder falsche Annahmen über die Identität der Nutzer treffen. Der Bericht bemerkte, dass die entstehenden Herausforderungen zwar nicht spezifisch für LGBTQ-Personen seien, aber unter anderem Modell-Halluzinationen oder sycophantisches Verhalten umfassen könnten, das Fehlinformationen zu folgenreichen Themen wie Gesundheit oder Wahlen erzeugt.
GLAAD forderte verbesserten Trainingsdatensatz und regulative Aufsicht
Um zu verhindern, dass Risiken weiter in KI-Systemen verankert werden, forderte GLAAD Entwickler auf, die Repräsentation von LGBTQ in Trainingsdaten zu verbessern, Datenschutzschutz zu stärken, eine menschliche Aufsicht über Moderationssysteme aufrechtzuerhalten und enger mit Interessenvertretungsgruppen zusammenzuarbeiten. Der Bericht forderte außerdem stärkere Branchenverantwortung und regulative Aufsicht. Ellis schrieb, dass Tech-Führungskräfte, um KI aufzubauen, die ethisch, inklusiv und verantwortungsvoll ist, proaktiv bewusste Praktiken übernehmen müssen, um sichere Produkte zu schaffen.
FAQ
Wovor hat GLAAD am Mittwoch bei KI-Systemen gewarnt?
GLAAD veröffentlichte am Mittwoch einen Bericht, der davor warnt, dass KI-Systeme anti-LGBTQ-Voreingenommenheit, Fehlinformationen und Diskriminierung in den Bereichen Gesundheitswesen, Beschäftigung, Wohnen und Kredite verstärken. Der Bericht argumentiert, dass KI, die auf voreingenommenen oder unvollständigen Daten trainiert wurde, Stereotype verstärkt und diskriminierende Ergebnisse hervorbringt.
Wie hoch ist laut der Studie aus 2023 die globale Kaufkraft von LGBTQ-Personen?
Laut einer Studie aus 2023 der LGBT Capital beträgt die globale Kaufkraft von LGBTQ-Personen 4,7 Billionen US-Dollar; diese Zahl wird auf 33 Billionen US-Dollar bis 2030 geschätzt. Mehr als 20 Prozent der Gen Z sind LGBTQ und stellen zukünftige Beschäftigte und Konsumenten dar.
Welche Klage wurde Anfang dieses Monats gegen xAI eingereicht?
Anfang dieses Monats klagte der ehemalige xAI-Ingenieur Devin Kim xAI und SpaceX an und machte geltend, er sei entlassen worden, nachdem er gewarnt hatte, dass Grok nicht über ausreichende Schutzvorkehrungen gegen Fehlinformationen und Bias verfüge. xAI führt zudem einen Rechtsstreit gegen Colorado über ein Landesgesetz, das Unternehmen dazu verpflichtet, Diskriminierungsrisiken in KI-Systemen zu bewerten und zu reduzieren.
