Алгоритм LinkedIn раскрыт: Шокирующая гендерная предвзятость в распределении контента ИИ-агентов

BitcoinWorld

Алгоритм LinkedIn раскрыт: Шокирующая гендерная предвзятость в распространении контента ИИ

Представьте, что охват вашего профессионального контента резко падает за одну ночь, в то время как мужчины-коллеги с меньшим числом подписчиков процветают. Это не просто предположение — это тревожная реальность, обнаруженная пользователями LinkedIn, которые выяснили, что их пол может быть невидимой рукой, подавляющей их видимость. Эксперимент #WearthePants выявил потенциальные трещины в новом алгоритме LinkedIn, работающем на основе LLM, что поднимает срочные вопросы о справедливости на профессиональных сетевых платформах.

Что на самом деле происходит с алгоритмом LinkedIn?

В ноябре продуктовый стратег, которую мы назовем Мишель, провела простой, но показательный эксперимент. Она изменила пол в своем профиле LinkedIn на мужской и имя на Майкл. Результаты были поразительными: количество просмотров ее постов подскочило на 200%, а вовлеченность выросла на 27% в течение нескольких дней. Она была не одинока. Мэрилинн Джойнер сообщила о 238% увеличении показов после аналогичного изменения, в то время как многие другие профессиональные женщины задокументировали похожие закономерности.

Этот эксперимент возник после месяцев жалоб от активных пользователей LinkedIn на снижение вовлеченности. Время совпало с августовским объявлением LinkedIn о том, что они "недавно" внедрили Большие Языковые Модели (LLM) для отображения контента. Для женщин, которые построили значительную аудиторию благодаря регулярным публикациям, внезапное изменение казалось особенно несправедливым.

Эксперимент #WearthePants: Систематическая гендерная предвзятость?

Движение началось с предпринимателей Синди Галлоп и Джейн Эванс, которые попросили двух коллег-мужчин опубликовать идентичный контент. Несмотря на то, что у них было в сумме более 150 000 подписчиков (по сравнению с 9 400 у мужчин), результаты были показательными:

"Единственной значимой переменной был пол", — рассказала Мишель Bitcoin World. Она отметила, что, несмотря на наличие более 10 000 подписчиков по сравнению с 2 000 у ее мужа, они получали схожее количество показов — пока она не переняла детали его профиля и стиль письма.

Как предвзятость ИИ проникает в алгоритмы социальных сетей

LinkedIn утверждает, что его "алгоритм и системы ИИ не используют демографическую информацию, такую как возраст, раса или пол, в качестве сигнала для определения видимости контента". Однако эксперты предполагают, что предвзятость может быть более тонкой и системной.

Брандейс Маршалл, консультант по этике данных, объясняет: "Платформы — это сложная симфония алгоритмов, которые задействуют определенные математические и социальные рычаги, одновременно и постоянно. Большинство этих платформ изначально имеют встроенную белую, мужскую, западноцентричную точку зрения из-за того, кто обучал модели".

Проблема исходит из того, как обучаются LLM:

• Они обучаются на контенте, созданном людьми, содержащем существующие предубеждения
• Тренеры-люди часто закрепляют определенные паттерны во время пост-обучения
• Исторические данные о вовлеченности могут отдавать предпочтение традиционно мужским стилям коммуникации

Стиль письма: Скрытая переменная в алгоритме LinkedIn

Мишель заметила нечто важное во время своего эксперимента. Публикуя посты как "Майкл", она изменила свой стиль письма на более прямой и лаконичный — похожий на то, как она пишет тексты для своего мужа. Это стилистическое изменение в сочетании со сменой пола дало впечатляющие результаты.

Сара Дин, доцент информатики в Корнелле, отмечает: "Демографические данные человека могут влиять на 'обе стороны' алгоритма — на то, что они видят, и на то, кто видит их публикации. Платформы часто используют полные профили, включая историю работы и вовлеченности, при определении контента для продвижения".

Это предполагает, что алгоритм LinkedIn может поощрять коммуникационные паттерны, исторически связанные с мужчинами-профессионалами:

• Лаконичный, прямой язык
• Уверенные утверждения
• Отраслевой жаргон
• Меньше эмоционального или уточняющего языка

Ответ LinkedIn и "черный ящик" алгоритма

Руководитель отдела ответственного ИИ и управления LinkedIn, Сакши Джайн, повторила в ноябре, что их системы не используют демографическую информацию для видимости контента. Компания сообщила Bitcoin World, что они тестируют миллионы постов, чтобы убедиться, что создатели "конкурируют на равных условиях" и что опыт ленты остается последовательным для всех аудиторий.

Однако платформа предлагает минимальную прозрачность о своих процессах обучения ИИ. Чад Джонсон, эксперт по продажам, активный на LinkedIn, описал новую систему как отдающую приоритет "пониманию, ясности и ценности" над традиционными метриками, такими как частота публикаций или время размещения.

Ключевые изменения, о которых сообщают пользователи:

• Снижение приоритета лайков и репостов
• Усиление конкуренции (публикации выросли на 15% в годовом исчислении)
• Вознаграждение за конкретный, ориентированный на аудиторию контент
• Больший акцент на профессиональные идеи и отраслевой анализ

Не только гендер: Более широкое недовольство алгоритмом

Разочарование выходит за рамки гендерных вопросов. Многие пользователи, независимо от пола, сообщают о путанице в отношении новой системы:

• Шайлви Вакхулу, специалист по данным, наблюдала падение показов с тысяч до сотен
• Один пользователь-мужчина сообщил о 50% падении вовлеченности за последние месяцы
• Другой мужчина увидел увеличение показов на 100%, написав для конкретных аудиторий
• Брандейс Маршалл отмечает, что ее посты о расе работают лучше, чем посты о ее экспертизе

Сара Дин предполагает, что алгоритм может просто усиливать существующие сигналы: "Он может вознаграждать определенные посты не из-за демографических данных автора, а потому что исторически был больший отклик на подобный контент по всей платформе".

Практические советы для навигации по новому алгоритму LinkedIn

На основе опыта пользователей и рекомендаций LinkedIn, вот что, по-видимому, работает:

1. Пишите для конкретных аудиторий с четкими профессиональными идеями
2. Сосредоточьтесь на ясности и ценности, а не на эмоциональной привлекательности
3. Делитесь уроками карьеры и отраслевым анализом
4. Предоставляйте образовательный контент о работе и бизнес-экономике
5. Взаимодействуйте осмысленно, а не гонитесь за показателями тщеславия

Дилемма прозрачности в алгоритмах социальных сетей

"Я хочу прозрачности", — заявила Мишель, выражая общее мнение. Однако, как отмечает Брандейс Маршалл, полная прозрачность может привести к манипуляциям с алгоритмом. Платформы тщательно охраняют свои алгоритмические секреты, создавая то, что эксперты называют проблемой "черного ящика".

Основное напряжение остается: пользователи хотят справедливых, понятных систем, в то время как платформам необходимо предотвращать манипуляции. Этот конфликт особенно остро проявляется в профессиональных сетях, таких как LinkedIn, где видимость может напрямую влиять на карьеру и бизнес-возможности.

Часто задаваемые вопросы: Понимание противоречий алгоритма LinkedIn

Что такое эксперимент #WearthePants?

Эксперимент #WearthePants включал в себя изменение женщинами своего пола в профиле LinkedIn на мужской, чтобы проверить, показывает ли алгоритм платформы гендерную предвзятость в распространении контента.

Кто начал движение #WearthePants?

Эксперимент начался с предпринимателей Синди Галлоп и Джейн Эванс, которые подозревали, что пол может объяснить снижение вовлеченности.

Что сказал LinkedIn об этих обвинениях?

LinkedIn утверждает, что его алгоритм не использует демографические данные для видимости контента. Сакши Джайн, руководитель отдела ответственного ИИ, и Тим Юрка, вице-президент по инженерии, оба обратились к этим проблемам.

Может ли стиль письма объяснить различия?

Да. Участники отметили, что принятие более прямого, лаконичного стиля письма — часто связанного с мужскими коммуникационными паттернами — коррелировало с повышенной видимостью.

Сталкиваются ли другие платформы социальных сетей с подобными проблемами?

Да. Большинство платформ, зависящих от LLM, борются с встроенными предубеждениями из своих обучающих данных, как отмечают эксперты, такие как Брандейс Маршалл и исследователи, включая Сару Дин.

Заключение: Тревожная реальность алгоритмической справедливости

Эксперимент #WearthePants раскрывает тревожную возможность: даже хорошо задуманные системы ИИ могут увековечивать реальные предубеждения. Хотя LinkedIn отрицает преднамеренную дискриминацию, закономерности, наблюдаемые многочисленными профессиональными женщинами, предполагают нечто системное. Будь то встроено в обучающие данные, усилено историческими паттернами вовлеченности или усилено через стилистические предпочтения, эффект остается тем же: некоторые голоса усиливаются, в то время как другие подавляются.

По мере того как ИИ все больше внедряется в профессиональные платформы, потребность в прозрачности, подотчетности и разнообразных обучающих данных становится все более насущной. Альтернатива — это цифровой профессиональный ландшафт, где успех зависит не только от заслуг, но и от того, насколько хорошо можно соответствовать алгоритмическим предпочтениям — предпочтениям, которые могут нести предубеждения своих человеческих создателей.

Чтобы узнать больше о последних разработках в алгоритмах ИИ и их социальных воздействиях, изучите нашу статью о ключевых разработках, формирующих внедрение ИИ и этические соображения на платформах социальных сетей.

Этот пост Алгоритм LinkedIn раскрыт: Шокирующая гендерная предвзятость в распространении контента ИИ впервые появился на BitcoinWorld.