A GLAAD publicou um relatório na quarta-feira, alertando que os sistemas de inteligência artificial estão a amplificar o viés anti-LGBTQ, a desinformação e a discriminação em setores como a saúde, o emprego, a habitação e o crédito. O relatório, intitulado “Build for Everyone: A Framework for LGBTQ Representation and Safety in AI”, defende que a IA treinada com dados enviesados ou incompletos reforça estereótipos e produz resultados discriminatórios à medida que a tecnologia fica cada vez mais integrada na vida quotidiana. A presidente e CEO da GLAAD, Sarah Kate Ellis, afirmou no relatório que “a IA é uma questão de direitos civis” e apelou aos líderes de tecnologia para criarem proativamente produtos seguros, avisando que a neutralidade já não é uma opção no desenvolvimento responsável de IA.
Relatório da GLAAD Identifica Principais Riscos de Viés de IA para Utilizadores LGBTQ
O relatório identificou áreas de preocupação, incluindo dados de treino enviesados, desinformação anti-LGBTQ, resultados discriminatórios em sistemas preditivos de IA, falhas na moderação de conteúdos e riscos para a privacidade. A GLAAD argumentou que os sistemas de IA treinados com informação incompleta ou incorreta sobre pessoas LGBTQ podem reforçar estereótipos e silenciar as vozes LGBTQ. O estudo referiu que o não ter em conta as experiências LGBTQ nos dados de treino, no desenho de produtos e na governação pode causar danos a comunidades marginalizadas e produzir produtos imprecisos e de menor qualidade, que podem minar a confiança dos utilizadores.
Poder de Compra LGBTQ atinge 4,7 Biliões Segundo Estudo de 2023
Ellis defendeu no relatório que a IA responsável é um requisito de negócio para assegurar a durabilidade das empresas de IA no futuro, salientando que mais de 20% da Geração Z é LGBTQ. De acordo com um estudo de 2023 da firma consultora e de investimento LGBT Capital, o poder de compra global das pessoas LGBTQ é de 4,7 biliões de dólares, prevendo-se que esse número chegue aos 33 biliões de dólares até 2030. Ellis escreveu que, se as pessoas LGBTQ fossem um país, representariam a 4.ª maior economia do mundo, afirmando que estes indivíduos são futuros trabalhadores e consumidores.
Casos Recente de Viés de IA Incluem Ação Judicial da xAI e Disputa Regulamentar no Colorado
O relatório surge num contexto de debate contínuo sobre viés em IA. Em maio, investigadores descobriram que modelos de IA de topo favoreciam consistentemente o catolicismo ao responderem de forma menos favorável às Testemunhas de Jeová, ao ateísmo e ao agnosticismo. No início deste mês, o ex-engenheiro da xAI Devin Kim processou a xAI e a SpaceX, alegando que foi despedido depois de alertar que o Grok não tinha salvaguardas adequadas contra desinformação e viés. A xAI está a travar uma batalha legal contra o Colorado, relacionada com uma lei estadual que exige que as empresas avaliem e reduzam os riscos de discriminação em sistemas de IA utilizados para decisões envolvendo habitação, emprego e crédito.
Agentes Autónomos de IA Podem Automatizar Resultados Discriminatórios
A GLAAD alertou que as preocupações se tornam mais significativas à medida que as empresas promovem agentes de IA capazes de realizar tarefas com supervisão humana limitada. O estudo afirmou que agentes autónomos podem herdar preconceitos existentes e automatizar resultados discriminatórios, como excluir prestadores de cuidados de saúde que afirmam pessoas LGBTQ dos resultados de pesquisa ou fazer suposições incorretas sobre identidades dos utilizadores. O relatório referiu que, embora não seja específico para pessoas LGBTQ, os desafios emergentes incluem alucinações do modelo ou comportamento servil (sycophantic) que geram desinformação sobre temas consequentes como saúde ou eleições.
GLAAD Pediu Melhores Dados de Treino e Maior Supervisão Regulamentar
Para impedir que os riscos fiquem ainda mais integrados nos sistemas de IA, a GLAAD apelou aos programadores para melhorar a representação LGBTQ nos dados de treino, reforçar as proteções de privacidade, manter supervisão humana dos sistemas de moderação e trabalhar mais de perto com grupos de defesa. O relatório também pediu maior responsabilização da indústria e supervisão regulamentar. Ellis escreveu que, para criar uma IA ética, inclusiva e responsável, os líderes tecnológicos devem adotar proativamente práticas intencionais para desenvolver produtos seguros.
FAQ
O que é que a GLAAD alertou sobre sistemas de IA na quarta-feira?
A GLAAD publicou um relatório na quarta-feira, alertando que os sistemas de IA estão a amplificar o viés anti-LGBTQ, a desinformação e a discriminação na saúde, no emprego, na habitação e no crédito. O relatório defende que a IA treinada com dados enviesados ou incompletos reforça estereótipos e produz resultados discriminatórios.
Qual é o poder de compra global das pessoas LGBTQ, segundo o estudo de 2023?
De acordo com um estudo de 2023 da LGBT Capital, o poder de compra global das pessoas LGBTQ é de 4,7 biliões de dólares, prevendo-se que esse número chegue aos 33 biliões de dólares até 2030. Mais de 20% da Geração Z é LGBTQ, representando futuros trabalhadores e consumidores.
Que processo foi apresentado contra a xAI no início deste mês?
No início deste mês, o antigo engenheiro da xAI Devin Kim processou a xAI e a SpaceX, alegando que foi despedido depois de alertar que o Grok não tinha salvaguardas adequadas contra desinformação e viés. A xAI está também a travar uma batalha legal contra o Colorado sobre uma lei estadual que exige que as empresas avaliem e reduzam os riscos de discriminação em sistemas de IA.
