الگوریتم لینکدین افشا شد: تبعیض جنسیتی تکان‌دهنده در توزیع محتوای هوش مصنوعی

بیت‌کوین ورلد

الگوریتم لینکدین افشا شد: تبعیض جنسیتی تکان‌دهنده در توزیع محتوای هوش مصنوعی

تصور کنید که دسترسی به محتوای حرفه‌ای شما یک شبه کاهش می‌یابد در حالی که همکاران مرد با دنبال‌کنندگان کمتر اوج می‌گیرند. این فقط یک حدس و گمان نیست - این واقعیت نگران‌کننده‌ای است که توسط کاربران لینکدین کشف شده که متوجه شدند جنسیت آنها ممکن است دست نامرئی باشد که دید آنها را سرکوب می‌کند. آزمایش #WearthePants شکاف‌های بالقوه در الگوریتم جدید لینکدین مبتنی بر LLM را آشکار کرده و سؤالات فوری درباره عدالت در پلتفرم‌های شبکه‌های حرفه‌ای را مطرح می‌کند.

واقعاً چه اتفاقی برای الگوریتم لینکدین می‌افتد؟

در ماه نوامبر، یک استراتژیست محصول که او را میشل می‌نامیم، آزمایشی ساده اما روشنگر انجام داد. او جنسیت پروفایل لینکدین خود را به مرد و نام خود را به مایکل تغییر داد. نتایج حیرت‌انگیز بود: بازدید پست‌های او ۲۰۰٪ افزایش یافت و تعاملات ۲۷٪ در عرض چند روز افزایش یافت. او تنها نبود. مریلین جوینر پس از انجام همین تغییر، افزایش ۲۳۸٪ در بازدیدها را گزارش کرد، در حالی که بسیاری از زنان حرفه‌ای دیگر الگوهای مشابهی را ثبت کردند.

این آزمایش پس از ماه‌ها شکایت از کاربران فعال لینکدین در مورد کاهش تعامل پدید آمد. زمان‌بندی با اعلام ماه آگوست لینکدین مطابقت داشت که آنها "اخیراً" مدل‌های زبانی بزرگ (LLMs) را برای نمایش محتوا پیاده‌سازی کرده‌اند. برای زنانی که از طریق پست‌های مداوم دنبال‌کنندگان قابل توجهی ایجاد کرده بودند، این تغییر ناگهانی به ویژه ناعادلانه به نظر می‌رسید.

آزمایش #WearthePants: تبعیض جنسیتی سیستماتیک؟

این جنبش با کارآفرینان سیندی گالوپ و جین ایوانز آغاز شد که از دو همکار مرد خواستند محتوای یکسانی را پست کنند. با وجود داشتن مجموع دنبال‌کنندگان بیش از ۱۵۰,۰۰۰ (در مقایسه با ۹,۴۰۰ مردان)، نتایج گویا بود:

"تنها متغیر قابل توجه جنسیت بود،" میشل به بیت‌کوین ورلد گفت. او خاطرنشان کرد که با وجود داشتن بیش از ۱۰,۰۰۰ دنبال‌کننده در مقایسه با ۲,۰۰۰ همسرش، آنها تعداد بازدید مشابهی دریافت کردند - تا زمانی که او جزئیات پروفایل و سبک نوشتاری او را اقتباس کرد.

چگونه تعصب هوش مصنوعی وارد الگوریتم‌های رسانه‌های اجتماعی می‌شود

لینکدین اصرار دارد که "الگوریتم و سیستم‌های هوش مصنوعی آن از اطلاعات جمعیت‌شناختی مانند سن، نژاد یا جنسیت به عنوان سیگنالی برای تعیین دید محتوا استفاده نمی‌کنند." با این حال، کارشناسان پیشنهاد می‌کنند که تعصب ممکن است ظریف‌تر و سیستماتیک‌تر باشد.

برندیس مارشال، مشاور اخلاق داده، توضیح می‌دهد: "پلتفرم‌ها سمفونی پیچیده‌ای از الگوریتم‌ها هستند که اهرم‌های خاص ریاضی و اجتماعی را به طور همزمان و مداوم می‌کشند. بیشتر این پلتفرم‌ها به طور ذاتی دیدگاه سفیدپوست، مردانه و غرب‌محور را به دلیل اینکه چه کسی مدل‌ها را آموزش داده، جاسازی کرده‌اند."

مشکل از نحوه یادگیری LLM‌ها ناشی می‌شود:

• آنها روی محتوای تولید شده توسط انسان که حاوی تعصبات موجود است آموزش دیده‌اند
• مربیان انسانی اغلب الگوهای خاصی را در طول آموزش پس از آموزش تقویت می‌کنند
• داده‌های تعامل تاریخی ممکن است سبک‌های ارتباطی سنتی مردانه را ترجیح دهند

سبک نوشتاری: متغیر پنهان در الگوریتم لینکدین

میشل در طول آزمایش خود متوجه چیزی مهم شد. هنگام پست کردن به عنوان "مایکل"، او نوشته خود را به سبکی مستقیم‌تر و مختصرتر تنظیم کرد - مشابه روشی که او برای همسرش به صورت نویسنده پنهان می‌نویسد. این تغییر سبکی، همراه با تغییر جنسیت، نتایج چشمگیری را به وجود آورد.

سارا دین، استادیار علوم کامپیوتر در کرنل، خاطرنشان می‌کند: "جمعیت‌شناسی فرد می‌تواند بر 'هر دو طرف' الگوریتم تأثیر بگذارد - آنچه می‌بینند و چه کسی آنچه را که پست می‌کنند می‌بیند. پلتفرم‌ها اغلب از پروفایل‌های کامل، از جمله مشاغل و سابقه تعامل، هنگام تعیین محتوا برای تقویت استفاده می‌کنند."

این نشان می‌دهد که الگوریتم لینکدین ممکن است الگوهای ارتباطی را که از نظر تاریخی با متخصصان مرد مرتبط هستند، پاداش دهد:

• زبان مختصر و مستقیم
• ادعاهای مطمئن
• اصطلاحات خاص صنعت
• زبان کمتر احساسی یا توصیفی

پاسخ لینکدین و جعبه سیاه الگوریتم

ساکشی جین، رئیس هوش مصنوعی مسئول و حاکمیت لینکدین، در ماه نوامبر تکرار کرد که سیستم‌های آنها از اطلاعات جمعیت‌شناختی برای دید محتوا استفاده نمی‌کنند. این شرکت به بیت‌کوین ورلد گفت که میلیون‌ها پست را آزمایش می‌کنند تا اطمینان حاصل شود که سازندگان "در شرایط برابر رقابت می‌کنند" و تجربه فید در بین مخاطبان ثابت می‌ماند.

با این حال، این پلتفرم شفافیت حداقلی در مورد فرآیندهای آموزش هوش مصنوعی خود ارائه می‌دهد. چاد جانسون، متخصص فروش فعال در لینکدین، سیستم جدید را به عنوان اولویت‌بندی "درک، وضوح و ارزش" نسبت به معیارهای سنتی مانند تکرار پست یا زمان‌بندی توصیف کرد.

تغییرات کلیدی که کاربران گزارش می‌کنند:

• کاهش اولویت لایک‌ها و بازنشرها
• افزایش رقابت (پست‌گذاری ۱۵٪ سال به سال افزایش یافته است)
• پاداش برای محتوای خاص، هدفمند برای مخاطب
• تأکید بیشتر بر بینش‌های حرفه‌ای و تحلیل صنعت

فقط جنسیت نیست: نارضایتی گسترده‌تر از الگوریتم

ناامیدی فراتر از مسائل جنسیتی است. بسیاری از کاربران، صرف نظر از جنسیت، سردرگمی در مورد سیستم جدید را گزارش می‌کنند:

• شایلوی واخولو، یک دانشمند داده، شاهد کاهش بازدیدها از هزاران به صدها بود
• یک کاربر مرد کاهش ۵۰٪ تعامل در ماه‌های اخیر را گزارش کرد
• مرد دیگری با نوشتن برای مخاطبان خاص، افزایش ۱۰۰٪ بازدید را مشاهده کرد
• برندیس مارشال خاطرنشان می‌کند که پست‌های او درباره نژاد بهتر از پست‌های مربوط به تخصص او عمل می‌کنند

سارا دین پیشنهاد می‌کند که الگوریتم ممکن است به سادگی سیگنال‌های موجود را تقویت کند: "ممکن است به پست‌های خاصی پاداش دهد نه به خاطر جمعیت‌شناسی نویسنده، بلکه به این دلیل که پاسخ تاریخی بیشتری به محتوای مشابه در سراسر پلتفرم وجود داشته است."

بینش‌های قابل اجرا برای هدایت الگوریتم جدید لینکدین

بر اساس تجربیات کاربران و راهنمایی لینکدین، اینها مواردی هستند که به نظر می‌رسد کار می‌کنند:

1. برای مخاطبان خاص بنویسید با بینش‌های حرفه‌ای واضح
2. بر وضوح و ارزش تمرکز کنید به جای جذابیت احساسی
3. درس‌های شغلی را به اشتراک بگذارید و تحلیل صنعت
4. محتوای آموزشی ارائه دهید درباره کار و اقتصاد کسب و کار
5. به طور معنادار تعامل داشته باشید به جای دنبال کردن معیارهای خودنمایی

معمای شفافیت در الگوریتم‌های رسانه‌های اجتماعی

"من شفافیت می‌خواهم،" میشل بیان کرد، که احساس مشترکی را منعکس می‌کند. با این حال، همانطور که برندیس مارشال خاطرنشان می‌کند، شفافیت کامل می‌تواند منجر به بازی با الگوریتم شود. پلتفرم‌ها از اسرار الگوریتمی خود به دقت محافظت می‌کنند و آنچه کارشناسان مشکل "جعبه سیاه" می‌نامند را ایجاد می‌کنند.

تنش اساسی باقی می‌ماند: کاربران سیستم‌های منصفانه و قابل درک می‌خواهند، در حالی که پلتفرم‌ها نیاز به جلوگیری از دستکاری دارند. این تضاد به ویژه در شبکه‌های حرفه‌ای مانند لینکدین حاد است، جایی که دید می‌تواند مستقیماً بر مسیرهای شغلی و فرصت‌های تجاری تأثیر بگذارد.

سؤالات متداول: درک جنجال الگوریتم لینکدین

آزمایش #WearthePants چیست؟

آزمایش #WearthePants شامل تغییر جنسیت پروفایل لینکدین زنان به مرد برای آزمایش اینکه آیا الگوریتم پلتفرم تبعیض جنسیتی در توزیع محتوا نشان می‌دهد یا خیر.

چه کسی جنبش #WearthePants را آغاز کرد؟

این آزمایش با کارآفرینان سیندی گالوپ و جین ایوانز آغاز شد که مشکوک بودند جنسیت ممکن است کاهش تعامل را توضیح دهد.

لینکدین درباره این ادعاها چه گفته است؟

لینکدین اصرار دارد که الگوریتم آن از داده‌های جمعیت‌شناختی برای دید محتوا استفاده نمی‌کند. ساکشی جین، رئیس هوش مصنوعی مسئول، و تیم جورکا، معاون مهندسی، هر دو به این نگرانی‌ها پرداخته‌اند.

آیا سبک نوشتاری می‌تواند تفاوت‌ها را توضیح دهد؟

بله. شرکت‌کنندگان خاطرنشان کردند که اتخاذ سبک‌های نوشتاری مستقیم‌تر و مختصرتر - که اغلب با الگوهای ارتباطی مردانه مرتبط است - با افزایش دید همبستگی داشت.

آیا پلتفرم‌های رسانه‌های اجتماعی دیگر با مشکلات مشابهی مواجه هستند؟

بله. بیشتر پلتفرم‌های وابسته به LLM با تعصبات جاسازی شده از داده‌های آموزشی خود مبارزه می‌کنند، همانطور که توسط کارشناسانی مانند برندیس مارشال و محققانی از جمله سارا دین ذکر شده است.

نتیجه‌گیری: واقعیت ناراحت‌کننده عدالت الگوریتمی

آزمایش #WearthePants امکان نگران‌کننده‌ای را آشکار می‌کند: حتی سیستم‌های هوش مصنوعی با نیت خوب می‌توانند تعصبات دنیای واقعی را تداوم بخشند. در حالی که لینکدین تبعیض عمدی را انکار می‌کند، الگوهای مشاهده شده توسط بسیاری از زنان حرفه‌ای نشان می‌دهد که چیزی سیستماتیک در کار است. خواه در داده‌های آموزشی جاسازی شده باشد، از طریق الگوهای تعامل تاریخی تقویت شده باشد، یا از طریق ترجیحات سبکی تقویت شده باشد، اثر همان است: برخی صداها تقویت می‌شوند در حالی که دیگران سرکوب می‌شوند.

همانطور که هوش مصنوعی به طور فزاینده‌ای در پلتفرم‌های حرفه‌ای جاسازی می‌شود، نیاز به شفافیت، پاسخگویی و داده‌های آموزشی متنوع فوری‌تر می‌شود. جایگزین، یک منظر حرفه‌ای دیجیتال است که موفقیت نه تنها به شایستگی، بلکه به این بستگی دارد که چقدر خوب می‌توان با ترجیحات الگوریتمی مطابقت داشت - ترجیحاتی که ممکن است تعصبات خالقان انسانی خود را حمل کنند.

برای یادگیری بیشتر درباره آخرین تحولات در الگوریتم‌های هوش مصنوعی و تأثیرات اجتماعی آنها، مقاله ما را درباره تحولات کلیدی شکل‌دهنده پیاده‌سازی هوش مصنوعی و ملاحظات اخلاقی در پلتفرم‌های رسانه‌های اجتماعی بررسی کنید.

این پست الگوریتم لینکدین افشا شد: تبعیض جنسیتی تکان‌دهنده در توزیع محتوای هوش مصنوعی اولین بار در بیت‌کوین ورلد ظاهر شد.