GLAAD 週三發布一份報告，警告人工智慧系統正在放大針對 LGBTQ 的偏見、錯誤資訊與歧視，並將其擴散至醫療、就業、住房與借貸等領域。該報告標題為「Build for Everyone: A Framework for LGBTQ Representation and Safety in AI」，指出在偏頗或不完整資料上訓練的 AI 會在技術愈發嵌入日常生活時，強化刻板印象並產生具歧視性的結果。GLAAD 總裁兼執行長 Sarah Kate Ellis 在報告中表示：「AI 是一項公民權利議題」，並呼籲科技領導者主動打造安全的產品，警告在負責任的 AI 開發中，「中立」不再是一個選項。
GLAAD 報告指出 LGBTQ 使用者面臨的核心 AI 偏見風險
該報告指出令人擔憂的範圍，包括偏頗的訓練資料、針對 LGBTQ 的錯誤資訊、預測式 AI 系統中的歧視性結果、內容審查失敗，以及隱私風險。GLAAD 表示，用不完整或不正確的資訊訓練的 AI 系統，可能會強化刻板印象並壓制 LGBTQ 聲音。研究指出，若未在訓練資料、產品設計與治理中納入 LGBTQ 的經驗，可能會對邊緣化社群造成傷害，並產生不正確、品質較低的產品，進而削弱使用者信任。
依據 2023 年研究：LGBTQ 購買力達 47 億億美元
Ellis 在報告中表示，負責任的 AI 是讓 AI 公司具備未來韌性的商業需求，並指出超過 20% 的 Gen Z 是 LGBTQ。根據 LGBT Capital（顧問與投資公司）在 2023 年的一項研究，LGBTQ 人群的全球購買力為 47 億億美元，預估該數字到 2030 年將達 330 億億美元。Ellis 寫道，若 LGBTQ 人群是一個國家，他們將是全球第 4 大經濟體，並表示這些人將成為未來的員工與消費者。
近期 AI 偏見案例包含 xAI 訴訟與科羅拉多州監管之爭
該報告發布之際，正值圍繞 AI 偏見的持續辯論之中。今年 5 月，研究人員發現領先的 AI 模型在回應 Catholicism（天主教）時一貫更為偏好，但在回應 Jehovah's Witnesses（耶和華見證人）、無神論與不可知論時則較不友善。本月初，前 xAI 工程師 Devin Kim 對 xAI 與 SpaceX 提起訴訟，指控他在警告 Grok 缺乏足夠的機制以防止錯誤資訊與偏見後遭解雇。xAI 正在與 Colorado（科羅拉多州）展開法律戰，該州法律要求公司評估並降低在 AI 系統用於涉及住房、就業與借貸的決策時的歧視風險。
自主 AI 代理可能自動化歧視性結果
GLAAD 警告，隨著公司推動能在僅限人類有限監督下執行任務的 AI 代理，疑慮將變得更為嚴重。研究指出，自主代理可能會繼承既有偏見，並自動化歧視性結果，例如將提供 LGBTQ 友善醫療的服務者排除在搜尋結果之外，或對使用者身分作出錯誤假設。報告也提到，雖然這些挑戰並非只針對 LGBTQ 人群，但新興問題包括模型幻覺或諂媚式行為，會就健康或選舉等具重大影響的議題散播錯誤資訊。
GLAAD 呼籲改善訓練資料並加強監管監督
為了防止風險進一步嵌入 AI 系統，GLAAD 呼籲開發者改善訓練資料中的 LGBTQ 呈現、強化隱私保護、維持內容審查系統的人類監督，並與倡議團體更緊密合作。該報告也呼籲產業採取更強的問責機制與監管監督。Ellis 寫道，要打造合乎倫理、具包容性且負責任的 AI，科技領導者必須主動採取刻意的做法來建立安全的產品。
常見問題
GLAAD 週三警告了什麼關於 AI 系統的事項？
GLAAD 週三發布一份報告，警告 AI 系統正在放大針對 LGBTQ 的偏見、錯誤資訊與歧視，並將其擴散至醫療、就業、住房與借貸等領域。該報告指出，在偏頗或不完整資料上訓練的 AI 會強化刻板印象並產生具歧視性的結果。
依據 2023 年研究，LGBTQ 人群的全球購買力是多少？
根據 LGBT Capital（LGBT Capital 是顧問與投資公司）在 2023 年的一項研究，LGBTQ 人群的全球購買力為 47 億億美元，預估該數字到 2030 年將達 330 億億美元。超過 20% 的 Gen Z 是 LGBTQ，代表未來的員工與消費者。
本月初對 xAI 提起了什麼訴訟？
本月初，前 xAI 工程師 Devin Kim 對 xAI 與 SpaceX 提起訴訟，指控他在警告 Grok 缺乏足夠的機制以防止錯誤資訊與偏見後遭解雇。xAI 也正與 Colorado（科羅拉多州）進行法律戰，該州法律要求公司在 AI 系統用於相關決策時評估並降低歧視風險。
