كشف خوارزمية لينكد إن: التحيز الصادم بين الجنسين في توزيع محتوى الذكاء الاصطناعي

BitcoinWorld

خوارزمية LinkedIn مكشوفة: التحيز الجنسي الصادم في توزيع محتوى الذكاء الاصطناعي

تخيل أن تشاهد وصول محتواك المهني يتضاءل بين عشية وضحاها بينما يرتفع زملاؤك الذكور ذوو المتابعين الأقل. هذا ليس مجرد تكهن - إنه الواقع المزعج الذي كشفه مستخدمو LinkedIn الذين اكتشفوا أن جنسهم قد يكون اليد الخفية التي تقمع ظهورهم. كشفت تجربة #WearthePants عن تصدعات محتملة في خوارزمية LinkedIn الجديدة المدعومة بنماذج اللغة الكبيرة، مما يثير أسئلة ملحة حول العدالة في منصات التواصل المهني.

ما الذي يحدث حقًا مع خوارزمية LinkedIn؟

في نوفمبر، أجرت استراتيجية منتج سنسميها ميشيل تجربة بسيطة لكنها كاشفة. غيرت جنس ملفها الشخصي على LinkedIn إلى ذكر واسمها إلى مايكل. كانت النتائج مذهلة: قفزت مشاهدات منشوراتها بنسبة 200٪ وارتفعت المشاركات بنسبة 27٪ في غضون أيام. لم تكن وحدها. أفادت ماريلين جوينر بزيادة بنسبة 238٪ في المشاهدات بعد إجراء نفس التغيير، بينما وثقت العديد من النساء المهنيات الأخريات أنماطًا مماثلة.

ظهرت هذه التجربة بعد شهور من شكاوى مستخدمي LinkedIn المكثفين حول تراجع التفاعل. تزامن التوقيت مع إعلان LinkedIn في أغسطس أنهم قد نفذوا "مؤخرًا" نماذج اللغة الكبيرة (LLMs) لعرض المحتوى. بالنسبة للنساء اللواتي بنين متابعات كبيرة من خلال النشر المستمر، شعرن بأن التغيير المفاجئ كان غير عادل بشكل خاص.

تجربة #WearthePants: تحيز جنسي منهجي؟

بدأت الحركة مع رائدتي الأعمال سيندي غالوب وجين إيفانز، اللتين طلبتا من زميلين ذكور نشر محتوى متطابق. على الرغم من وجود متابعين مجتمعين يتجاوزون 150,000 (مقارنة بـ 9,400 للرجال)، كانت النتائج واضحة:

"المتغير الوحيد المهم كان الجنس،" قالت ميشيل لـ Bitcoin World. وأشارت إلى أنه على الرغم من وجود أكثر من 10,000 متابع مقارنة بـ 2,000 لزوجها، فقد تلقوا أرقام انطباعات متشابهة - حتى تبنت تفاصيل ملفه الشخصي وأسلوب كتابته.

كيف يتسلل تحيز الذكاء الاصطناعي إلى خوارزميات وسائل التواصل الاجتماعي

تؤكد LinkedIn أن "خوارزميتها وأنظمة الذكاء الاصطناعي لا تستخدم المعلومات الديموغرافية مثل العمر أو العرق أو الجنس كإشارة لتحديد رؤية المحتوى." ومع ذلك، يقترح الخبراء أن التحيز قد يكون أكثر دقة ومنهجية.

تشرح برانديس مارشال، مستشارة أخلاقيات البيانات: "المنصات هي سيمفونية معقدة من الخوارزميات التي تسحب روافع رياضية واجتماعية محددة، في وقت واحد وباستمرار. معظم هذه المنصات لديها بشكل فطري وجهة نظر مركزية بيضاء، ذكورية، غربية بسبب من قام بتدريب النماذج."

تنبع المشكلة من كيفية تعلم نماذج اللغة الكبيرة:

• يتم تدريبها على محتوى من إنشاء البشر يحتوي على تحيزات موجودة
• غالبًا ما يعزز المدربون البشريون أنماطًا معينة أثناء التدريب اللاحق
• قد تفضل بيانات المشاركة التاريخية أساليب التواصل الذكورية التقليدية

أسلوب الكتابة: المتغير الخفي في خوارزمية LinkedIn

لاحظت ميشيل شيئًا حاسمًا أثناء تجربتها. عند النشر باسم "مايكل"، عدلت كتابتها إلى أسلوب أكثر مباشرة وإيجازًا - مشابه لكيفية كتابتها الشبحية لزوجها. هذا التغيير الأسلوبي، مقترنًا بتبديل الجنس، أنتج نتائج مذهلة.

تلاحظ سارة دين، أستاذة مساعدة في علوم الكمبيوتر في جامعة كورنيل: "يمكن للتركيبة السكانية للشخص أن تؤثر على 'كلا جانبي' الخوارزمية - ما يرونه ومن يرى ما ينشرونه. غالبًا ما تستخدم المنصات ملفات تعريفية كاملة، بما في ذلك الوظائف وتاريخ المشاركة، عند تحديد المحتوى لتعزيزه."

هذا يشير إلى أن خوارزمية LinkedIn قد تكافئ أنماط الاتصال المرتبطة تاريخيًا بالمهنيين الذكور:

• لغة موجزة ومباشرة
• تأكيدات واثقة
• مصطلحات خاصة بالصناعة
• لغة أقل عاطفية أو تأهيلية

رد LinkedIn والصندوق الأسود للخوارزمية

أكدت ساكشي جين، رئيسة الذكاء الاصطناعي المسؤول والحوكمة في LinkedIn، في نوفمبر أن أنظمتهم لا تستخدم المعلومات الديموغرافية لرؤية المحتوى. أخبرت الشركة Bitcoin World أنهم يختبرون ملايين المنشورات للتأكد من أن المنشئين "يتنافسون على قدم المساواة" وأن تجربة التغذية تظل متسقة عبر الجماهير.

ومع ذلك، تقدم المنصة الحد الأدنى من الشفافية حول عمليات تدريب الذكاء الاصطناعي الخاصة بها. وصف تشاد جونسون، خبير المبيعات النشط على LinkedIn، النظام الجديد بأنه يعطي الأولوية لـ "الفهم والوضوح والقيمة" على المقاييس التقليدية مثل تكرار النشر أو التوقيت.

التغييرات الرئيسية التي يبلغ عنها المستخدمون:

• إلغاء أولوية الإعجابات وإعادة النشر
• زيادة المنافسة (زيادة النشر بنسبة 15٪ سنويًا)
• مكافأة للمحتوى المستهدف للجمهور المحدد
• تركيز أكبر على الرؤى المهنية وتحليل الصناعة

ليس الجنس فقط: استياء أوسع من الخوارزمية

يمتد الإحباط إلى ما هو أبعد من قضايا الجنس. يبلغ العديد من المستخدمين، بغض النظر عن الجنس، عن ارتباك بشأن النظام الجديد:

• شاهدت شيلفي واخولو، عالمة بيانات، انخفاض المشاهدات من الآلاف إلى المئات
• أبلغ مستخدم ذكر عن انخفاض المشاركة بنسبة 50٪ خلال الأشهر الأخيرة
• شهد رجل آخر زيادة المشاهدات بنسبة 100٪ من خلال الكتابة لجماهير محددة
• تلاحظ برانديس مارشال أن منشوراتها حول العرق تؤدي بشكل أفضل من تلك المتعلقة بخبرتها

تقترح سارة دين أن الخوارزمية قد تكون ببساطة تضخم الإشارات الموجودة: "قد تكافئ منشورات معينة ليس بسبب التركيبة السكانية للكاتب، ولكن لأن هناك استجابة تاريخية أكبر لمحتوى مماثل عبر المنصة."

رؤى قابلة للتنفيذ للتنقل في خوارزمية LinkedIn الجديدة

بناءً على تجارب المستخدمين وإرشادات LinkedIn، إليك ما يبدو أنه يعمل:

1. اكتب لجماهير محددة مع رؤى مهنية واضحة
2. ركز على الوضوح والقيمة بدلاً من الجاذبية العاطفية
3. شارك دروس المهنة وتحليل الصناعة
4. قدم محتوى تعليمي حول العمل واقتصاديات الأعمال
5. شارك بشكل هادف بدلاً من السعي وراء مقاييس الغرور

معضلة الشفافية في خوارزميات وسائل التواصل الاجتماعي

"أريد الشفافية،" صرحت ميشيل، مرددة شعورًا شائعًا. ومع ذلك، كما تلاحظ برانديس مارشال، يمكن أن تؤدي الشفافية الكاملة إلى التلاعب بالخوارزمية. تحرس المنصات أسرار خوارزمياتها بشكل وثيق، مما يخلق ما يسميه الخبراء مشكلة "الصندوق الأسود".

يبقى التوتر الأساسي: يريد المستخدمون أنظمة عادلة ومفهومة، بينما تحتاج المنصات إلى منع التلاعب. هذا الصراع حاد بشكل خاص في الشبكات المهنية مثل LinkedIn، حيث يمكن أن تؤثر الرؤية مباشرة على المسارات المهنية وفرص الأعمال.

الأسئلة الشائعة: فهم جدل خوارزمية LinkedIn

ما هي تجربة #WearthePants؟

تضمنت تجربة #WearthePants قيام النساء بتغيير جنس ملفهن الشخصي على LinkedIn إلى ذكر لاختبار ما إذا كانت خوارزمية المنصة تظهر تحيزًا جنسيًا في توزيع المحتوى.

من بدأ حركة #WearthePants؟

بدأت التجربة مع رائدتي الأعمال سيندي غالوب وجين إيفانز، اللتين اشتبهتا في أن الجنس قد يفسر تراجع المشاركة.

ماذا قالت LinkedIn عن هذه الادعاءات؟

تؤكد LinkedIn أن خوارزميتها لا تستخدم البيانات الديموغرافية لرؤية المحتوى. تناولت ساكشي جين، رئيسة الذكاء الاصطناعي المسؤول، وتيم جوركا، نائب رئيس الهندسة، هذه المخاوف.

هل يمكن لأسلوب الكتابة أن يفسر الاختلافات؟

نعم. لاحظ المشاركون أن اعتماد أساليب كتابة أكثر مباشرة وإيجازًا - غالبًا ما ترتبط بأنماط التواصل الذكورية - ارتبط بزيادة الظهور.

هل تواجه منصات التواصل الاجتماعي الأخرى مشكلات مماثلة؟

نعم. تكافح معظم المنصات المعتمدة على نماذج اللغة الكبيرة مع التحيزات المضمنة من بيانات التدريب الخاصة بها، كما لاحظ خبراء مثل برانديس مارشال وباحثون بمن فيهم سارة دين.

الخلاصة: الواقع المقلق للعدالة الخوارزمية

تكشف تجربة #WearthePants عن احتمال مزعج: حتى أنظمة الذكاء الاصطناعي ذات النوايا الحسنة يمكن أن تديم التحيزات في العالم الحقيقي. بينما تنفي LinkedIn التمييز المتعمد، فإن الأنماط التي لوحظت من قبل العديد من النساء المهنيات تشير إلى شيء منهجي في العمل. سواء كان مضمنًا في بيانات التدريب، أو معززًا من خلال أنماط المشاركة التاريخية، أو مضخمًا من خلال التفضيلات الأسلوبية، يبقى التأثير هو نفسه: يتم تضخيم بعض الأصوات بينما يتم قمع أصوات أخرى.

مع تزايد دمج الذكاء الاصطناعي في المنصات المهنية، تصبح الحاجة إلى الشفافية والمساءلة وبيانات التدريب المتنوعة أكثر إلحاحًا. البديل هو مشهد مهني رقمي حيث لا يعتمد النجاح فقط على الجدارة، ولكن على مدى قدرة المرء على التوافق مع التفضيلات الخوارزمية - التفضيلات التي قد تحمل تحيزات مبتكريها البشريين.

لمعرفة المزيد عن أحدث التطورات في خوارزميات الذكاء الاصطناعي وتأثيراتها المجتمعية، استكشف مقالتنا حول التطورات الرئيسية التي تشكل تنفيذ الذكاء الاصطناعي والاعتبارات الأخلاقية في منصات التواصل الاجتماعي.

ظهر هذا المنشور خوارزمية LinkedIn مكشوفة: التحيز الجنسي الصادم في توزيع محتوى الذكاء الاصطناعي لأول مرة على BitcoinWorld.