تقرير GLAAD يحذّر من أن أنظمة الذكاء الاصطناعي تُضخّم الانحياز المعاد للمثليين ومزدوجي الميل الجنسي ومغايري الهوية الجندرية عبر قطاعات رئيسية

أصدرت GLAAD تقريراً يوم الأربعاء حذرت فيه من أن أنظمة الذكاء الاصطناعي تعمل على تضخيم التحيز المعادي لمجتمع LGBTQ، والمعلومات المضللة، والتمييز عبر الرعاية الصحية والتوظيف والسكن والإقراض. ويجادل التقرير، بعنوان «Build for Everyone: A Framework for LGBTQ Representation and Safety in AI»، بأن الذكاء الاصطناعي المُدرَّب على بيانات منحازة أو غير مكتملة يعزز الصور النمطية وينتج نتائج تمييزية مع ازدياد دمج التكنولوجيا في الحياة اليومية. قالت رئيسة وُمديرة تنفيذيّة GLAAD سارة كيت إليس في التقرير إن «الذكاء الاصطناعي قضية من قضايا الحقوق المدنية»، ودعت قادة التكنولوجيا إلى خلق منتجات آمنة بشكل استباقي، محذرة من أن الحياد لم يعد خياراً متاحاً في تطوير ذكاء اصطناعي مسؤول.

تقرير GLAAD يحدد مخاطر جوهرية لانحياز الذكاء الاصطناعي التي تواجه مستخدمي LGBTQ

حدّد التقرير مجالات قلق تشمل بيانات تدريب منحازة، ومعلومات مضللة معادية لمجتمع LGBTQ، ونتائج تمييزية في أنظمة الذكاء الاصطناعي التنبؤية، وإخفاقات في إدارة المحتوى، ومخاطر الخصوصية. وجادلت GLAAD بأن أنظمة الذكاء الاصطناعي المُدرَّبة على معلومات غير مكتملة أو غير دقيقة عن مجتمع LGBTQ يمكن أن تعزز الصور النمطية وتُسكت أصوات LGBTQ. وذكرَت الدراسة أن عدم أخذ تجارب LGBTQ في الحسبان ضمن بيانات التدريب وتصميم المنتجات والحوكمة يمكن أن يؤدي إلى ضرر للمجتمعات المُهمشة، وإنتاج منتجات غير دقيقة وأقل جودة قد تقوض ثقة المستخدمين.

القوة الشرائية لمجتمع LGBTQ تصل إلى 4.7 تريليون دولار وفق دراسة لعام 2023

أكدت إليس في التقرير أن الذكاء الاصطناعي المسؤول شرطٌ تجارياً لازماً لتعزيز قدرة شركات الذكاء الاصطناعي على الصمود في المستقبل، مشيرة إلى أن أكثر من 20% من جيل زد LGBTQ. ووفقاً لدراسة أجرتها عام 2023 شركة الاستشارات والاستثمار LGBT Capital، فإن القوة الشرائية العالمية لمجتمع LGBTQ تبلغ 4.7 تريليون دولار، مع تقدير أن يصل هذا الرقم إلى 33 تريليون دولار بحلول عام 2030. كتبت إليس أنه إذا كان مجتمع LGBTQ دولةً، فإنه سيمثل رابع أكبر اقتصاد في العالم، مضيفةً أن هؤلاء أفراد يمثلون موظفين ومستهلكين في المستقبل.

تشمل حالات انحياز حديثة للذكاء الاصطناعي دعوى xAI ومعركة تنظيمية في كولورادو

يأتي التقرير في خضم نقاش مستمر حول انحياز الذكاء الاصطناعي. ففي مايو، وجد باحثون أن نماذج ذكاء اصطناعي رائدة تُفضل المذهب الكاثوليكي باستمرار عند الرد، بينما تتعامل مع شهود يهوه واللاأدرية واللاّ إيمانية واللا أدريّة على نحو أقل تفضيلاً. وقبل هذا الشهر، رفع مهندس سابق في xAI، ديفين كيم، دعوى قضائية ضد xAI وSpaceX، زاعماً أنه تم فصله بعد تحذيره من أن Grok يفتقر إلى ضمانات كافية ضد المعلومات المضللة والتحيز. وتخوض xAI معركة قانونية ضد ولاية كولورادو بشأن قانون حكومي يطلب من الشركات تقييم مخاطر التمييز في أنظمة الذكاء الاصطناعي وتقليلها، عند استخدام تلك الأنظمة في قرارات تتعلق بالسكن والتوظيف والإقراض.

يمكن للعوامل الذاتية لوكلاء الذكاء الاصطناعي أتمتة نتائج تمييزية

حذرت GLAAD من أن المخاوف تصبح أكبر أهمية مع دفع الشركات إلى تطوير وكلاء ذكاء اصطناعي قادرين على تنفيذ مهام مع إشراف بشري محدود. وذكرت الدراسة أن الوكلاء المستقلين يمكن أن يرثوا الانحيازات القائمة ويؤتمتوا نتائج تمييزية، مثل استبعاد مقدمي رعاية صحية يؤكدون مجتمع LGBTQ من نتائج البحث أو وضع افتراضات غير صحيحة بشأن هويات المستخدمين. وأشار التقرير إلى أنه رغم أن هذه التحديات ليست موجهة خصيصاً لمجتمع LGBTQ، فإن من أبرز المشاكل الناشئة «هلاوس» النماذج أو السلوك المتملق الذي يُنتج معلومات مضللة حول موضوعات بالغة الأهمية مثل الصحة أو الانتخابات.

GLAAD دعت إلى تحسين بيانات التدريب والإشراف التنظيمي

ولمنع تحول المخاطر إلى أن تُدمج بشكل أكبر في أنظمة الذكاء الاصطناعي، دعت GLAAD المطورين إلى تحسين تمثيل LGBTQ في بيانات التدريب، وتعزيز حماية الخصوصية، والحفاظ على إشراف بشري على أنظمة إدارة المحتوى، والعمل بشكل وثيق أكثر مع مجموعات المناصرة. كما دعا التقرير إلى تعزيز المساءلة داخل الصناعة والإشراف التنظيمي. كتبت إليس أنه لبناء ذكاء اصطناعي أخلاقي وشامل ومسؤول، يجب على قادة التكنولوجيا أن يتبنوا بشكل استباقي ممارسات مقصودة لخلق منتجات آمنة.

الأسئلة الشائعة

ماذا حذرت GLAAD بشأن أنظمة الذكاء الاصطناعي يوم الأربعاء؟
أصدرت GLAAD تقريراً يوم الأربعاء حذرت فيه من أن أنظمة الذكاء الاصطناعي تعمل على تضخيم التحيز المعادي لمجتمع LGBTQ، والمعلومات المضللة، والتمييز عبر الرعاية الصحية والتوظيف والسكن والإقراض. ويجادل التقرير بأن الذكاء الاصطناعي المُدرَّب على بيانات منحازة أو غير مكتملة يعزز الصور النمطية وينتج نتائج تمييزية.

ما هي القوة الشرائية العالمية لمجتمع LGBTQ وفقاً لدراسة عام 2023؟
وفقاً لدراسة أجرتها LGBT Capital عام 2023، فإن القوة الشرائية العالمية لمجتمع LGBTQ تبلغ 4.7 تريليون دولار، مع تقدير أن يصل هذا الرقم إلى 33 تريليون دولار بحلول عام 2030. إذ إن أكثر من 20% من جيل زد LGBTQ، ما يمثل موظفين ومستهلكين في المستقبل.

ما الدعوى القضائية التي قُدمت ضد xAI في وقت سابق من هذا الشهر؟
في وقت سابق من هذا الشهر، رفع مهندس سابق في xAI، ديفين كيم، دعوى قضائية ضد xAI وSpaceX، زاعماً أنه تم فصله بعد تحذيره من أن Grok يفتقر إلى ضمانات كافية ضد المعلومات المضللة والتحيز. كما تخوض xAI معركة قانونية ضد كولورادو بشأن قانون حكومي يطلب من الشركات تقييم مخاطر التمييز في أنظمة الذكاء الاصطناعي وتقليلها.