تجربة #ارتدِ_البنطال تكشف عن تحيز محتمل في خوارزمية لينكدإن ضد النساء

في أحد أيام نوفمبر، قامت استراتيجية منتجات سنطلق عليها اسم ميشيل (ليس اسمها الحقيقي)، بتسجيل الدخول إلى حسابها على لينكدإن وغيرت جنسها إلى ذكر. كما غيرت اسمها إلى مايكل، حسبما صرحت لموقع تك كرانش.

كانت تشارك في تجربة أُطلق عليها وسم #ارتدِ_البنطال (#WearthePants) حيث اختبرت النساء فرضية أن خوارزمية لينكدإن الجديدة متحيزة ضد النساء.

لعدة أشهر، اشتكى بعض المستخدمين النشطين على لينكدإن من انخفاض في التفاعل وعدد مرات الظهور لمنشوراتهم على الشبكة الاجتماعية الموجهة للمهنيين. جاء ذلك بعد أن صرح تيم جوركا، نائب رئيس الهندسة في الشركة، في أغسطس بأن المنصة قد طبقت "مؤخرًا" نماذج لغوية كبيرة (LLMs) للمساعدة في إظهار المحتوى المفيد للمستخدمين.

كانت ميشيل (التي يعرف موقع تك كرانش هويتها) متشككة بشأن هذه التغييرات لأن لديها أكثر من 10,000 متابع وتكتب منشورات لزوجها، الذي لديه حوالي 2,000 متابع فقط. ومع ذلك، قالت إنها وزوجها يميلان إلى الحصول على نفس العدد تقريبًا من مرات ظهور المنشورات، على الرغم من عدد متابعيها الأكبر.

وقالت: "المتغير الوحيد المهم كان الجنس".

كما غيرت مارلين جوينر، وهي مؤسسة، جنس ملفها الشخصي. لقد كانت تنشر على لينكدإن بانتظام لمدة عامين ولاحظت في الأشهر القليلة الماضية أن رؤية منشوراتها قد تراجعت. وقالت لموقع تك كرانش: "غيرت جنسي في ملفي الشخصي من أنثى إلى ذكر، وقفزت مرات الظهور بنسبة 238% في غضون يوم واحد".

أفادت ميغان كورنيش بنتائج مماثلة، وكذلك روزي تايلور، وجيسيكا دويل ميكيس، وآبي نيدام، وفيليسيتي مينزيس، ولوسي فيرغسون، وغيرهن.

صرحت لينكدإن بأن "أنظمتها الخوارزمية والذكاء الاصطناعي لا تستخدم معلومات ديموغرافية مثل العمر أو العرق أو الجنس كإشارة لتحديد مدى ظهور المحتوى أو الملف الشخصي أو المنشورات في الخلاصة" وأن "لقطة جانبية لتحديثات خلاصتك الخاصة التي ليست ممثلة تمامًا، أو متساوية في الوصول، لا تعني تلقائيًا معاملة غير عادلة أو تحيزًا" داخل الخلاصة.

يتفق خبراء الخوارزميات الاجتماعية على أن التمييز الجنسي الصريح قد لا يكون هو السبب، على الرغم من أن التحيز الضمني قد يكون موجودًا.

قالت برانديس مارشال، مستشارة أخلاقيات البيانات، لموقع تك كرانش إن المنصات هي "سيمفونية معقدة من الخوارزميات التي تحرك روافع رياضية واجتماعية محددة، في وقت واحد وبشكل مستمر".

وأضافت: "تغيير صورة الملف الشخصي والاسم هو مجرد رافعة واحدة من هذه الروافع"، مشيرة إلى أن الخوارزمية تتأثر أيضًا، على سبيل المثال، بكيفية تفاعل المستخدم مع المحتوى الآخر حاليًا وفي الماضي.

وقالت مارشال: "ما لا نعرفه هو جميع الروافع الأخرى التي تجعل هذه الخوارزمية تعطي الأولوية لمحتوى شخص على آخر. هذه مشكلة أكثر تعقيدًا مما يفترضه الناس".

تحيز ذكوري

بدأت تجربة #ارتدِ_البنطال مع رائدتي أعمال سيندي غالوب وجين إيفانز.

طلبتا من رجلين إنشاء ونشر نفس المحتوى الذي ينشرانه، بدافع الفضول لمعرفة ما إذا كان الجنس هو السبب وراء شعور العديد من النساء بانخفاض في التفاعل. تتمتع كل من غالوب وإيفانز بمتابعة كبيرة أكثر من 150,000 متابع مجتمعين مقارنة بالرجلين اللذين كان لديهما حوالي 9,400 متابع في ذلك الوقت.