Experimento Revela Possível Viés de Gênero no Algoritmo do LinkedIn

Em um dia de novembro, uma estrategista de produtos que chamaremos de Michelle (não é seu nome real), acessou sua conta no LinkedIn e alterou seu gênero para masculino. Ela também mudou seu nome para Michael, conforme relatou ao TechCrunch.

Ela participava de um experimento chamado #WearthePants, onde mulheres testaram a hipótese de que o novo algoritmo do LinkedIn apresentava tendência contra o público feminino.

Por meses, alguns usuários frequentes do LinkedIn reclamaram de quedas no engajamento e nas visualizações na rede social voltada para carreira. Isso aconteceu depois que o vice-presidente de engenharia da empresa, Tim Jurka, disse em agosto que a plataforma havia ‘mais recentemente’ implementado LLMs para ajudar a destacar conteúdo útil para os usuários.

Michelle (cuja identidade é conhecida pelo TechCrunch) estava desconfiada das mudanças porque ela tem mais de 10.000 seguidores e escreve posts para seu marido, que tem apenas cerca de 2.000. Ainda assim, ela e seu marido tendem a obter aproximadamente o mesmo número de visualizações de postagens, disse ela, apesar de seu público maior.

‘A única variável significativa era o gênero’, afirmou.

Marilynn Joyner, uma fundadora, também alterou o gênero do perfil. Ela posta no LinkedIn consistentemente há dois anos e notou nos últimos meses que a visibilidade de suas postagens diminuiu. ‘Mudei meu gênero no perfil de feminino para masculino, e minhas visualizações aumentaram 238% em um dia’, disse ela ao TechCrunch.

Megan Cornish relatou resultados semelhantes, assim como Rosie Taylor, Jessica Doyle Mekkes, Abby Nydam, Felicity Menzies, Lucy Ferguson, e assim por diante.

O LinkedIn afirmou que seu ‘algoritmo e sistemas de IA não usam informações demográficas como idade, raça ou gênero como sinal para determinar a visibilidade de conteúdo, perfil ou postagens no Feed’ e que ‘uma captura de tela lado a lado de suas próprias atualizações de feed que não são perfeitamente representativas, ou iguais em alcance, não implicam automaticamente tratamento injusto ou viés’ dentro do Feed.

Especialistas em algoritmos sociais concordam que o sexismo explícito pode não ter sido a causa, embora um viés implícito possa estar em ação.

As plataformas são ‘uma sinfonia intrincada de algoritmos que puxam alavancas matemáticas e sociais específicas, simultânea e constantemente’, disse Brandeis Marshall, consultora de ética em dados, ao TechCrunch.

‘A mudança da foto e nome do perfil é apenas uma dessas alavancas’, disse ela, acrescentando que o algoritmo também é influenciado, por exemplo, por como um usuário interagiu e atualmente interage com outro conteúdo.

‘O que não sabemos são todas as outras alavancas que fazem esse algoritmo priorizar o conteúdo de uma pessoa em detrimento de outra. Este é um problema mais complicado do que as pessoas assumem’, disse Marshall.

Codificado para ‘Bro’

O experimento #WearthePants começou com duas empreendedoras — Cindy Gallop e Jane Evans.

Elas pediram a dois homens para criar e postar o mesmo conteúdo que elas, curiosas para saber se o gênero era a razão pela qual tantas mulheres estavam sentindo uma queda no engajamento. Gallop e Evans têm um público considerável — mais de 150.000 combinados em comparação com os dois homens, que tinham cerca de 9.400 na época.

Gallop relatou que sua postagem alcançou apenas 801 pessoas, enquanto o homem que postou exatamente o mesmo conteúdo alcançou 10.408 pessoas, mais de 100% de seus seguidores. Outras mulheres então participaram. Algumas, como Joyner, que usa o LinkedIn para promover seu negócio, ficaram preocupadas.

‘Eu realmente adoraria ver o LinkedIn assumir a responsabilidade por qualquer viés que possa existir em seu algoritmo’, disse Joyner.

Mas o LinkedIn, como outras plataformas de busca e mídia social dependentes de LLM, oferece poucos detalhes sobre como os modelos de seleção de conteúdo foram treinados.

Marshall disse que a maioria dessas plataformas ‘inerentemente tem incorporado um ponto de vista branco, masculino e centrado no Ocidente’ devido a quem treinou os modelos. Pesquisadores encontram evidências de vieses humanos como sexismo e racismo em modelos populares de LLM porque os modelos são treinados em conteúdo gerado por humanos, e humanos estão frequentemente diretamente envolvidos no pós-treinamento ou aprendizado por reforço.

Ainda assim, como qualquer empresa individual implementa seus sistemas de IA está envolto no sigilo da caixa preta algorítmica.

O LinkedIn diz que o experimento #WearthePants não poderia ter demonstrado viés de gênero contra mulheres. A declaração de Jurka em agosto disse — e a chefe de IA Responsável e Governança do LinkedIn, Sakshi Jain, reiterou em outra postagem em novembro — que seus sistemas não usam informações demográficas como sinal para visibilidade.

Em vez disso, o LinkedIn disse ao TechCrunch que testa milhões de postagens para conectar os usuários a oportunidades. Ele disse que os dados demográficos são usados apenas para tais testes, como ver se postagens ‘de diferentes criadores competem em pé de igualdade e que a experiência de rolagem, o que você vê no feed, é consistente entre os públicos’, disse a empresa ao TechCrunch.

O LinkedIn tem sido notado por pesquisar e ajustar seu algoritmo para tentar fornecer uma experiência menos tendenciosa para os usuários.

São as variáveis desconhecidas, disse Marshall, que provavelmente explicam por que algumas mulheres viram visualizações aumentadas após mudarem o gênero do perfil para masculino. Participar de uma tendência viral, por exemplo, pode levar a um aumento no engajamento; algumas contas estavam postando pela primeira vez depois de muito tempo, e o algoritmo poderia tê-las recompensado por isso.

Tom e estilo de escrita também podem desempenhar um papel. Michelle, por exemplo, disse que na semana em que postou como ‘Michael’, ela ajustou ligeiramente seu tom, escrevendo de forma mais simplista e direta, como faz para seu marido. Foi quando ela disse que as visualizações aumentaram 200% e os engajamentos subiram 27%.

Ela concluiu que o sistema não era ‘explicitamente sexista’, mas parecia considerar os estilos de comunicação comumente associados às mulheres ‘um substituto para menor valor’.

Estereótipos de estilo de escrita masculinos são considerados mais concisos, enquanto os estereótipos de estilo de escrita para mulheres são imaginados como mais suaves e emocionais. Se um LLM é treinado para impulsionar a escrita que se conforma com estereótipos masculinos, isso é um viés sutil e implícito. E como relatamos anteriormente, pesquisadores determinaram que a maioria dos LLMs está repleta deles.

Sarah Dean, professora assistente de ciência da computação em Cornell, disse que plataformas como o LinkedIn costumam usar perfis inteiros, além do comportamento do usuário, ao determinar o conteúdo a ser impulsionado. Isso inclui empregos no perfil de um usuário e o tipo de conteúdo com o qual ele normalmente interage.

‘A demografia de alguém pode afetar ‘ambos os lados’ do algoritmo — o que eles veem e quem vê o que eles postam’, disse Dean.

O LinkedIn disse ao TechCrunch que seus sistemas de IA analisam centenas de sinais para determinar o que é enviado a um usuário, incluindo insights do perfil, rede e atividade de uma pessoa.

‘Realizamos testes contínuos para entender o que ajuda as pessoas a encontrar o conteúdo mais relevante e oportuno para suas carreiras’, disse o porta-voz. ‘O comportamento dos membros também molda o feed, o que as pessoas clicam, salvam e com o que se envolvem muda diariamente, e quais formatos elas gostam ou não. Esse comportamento também molda naturalmente o que aparece nos feeds, juntamente com quaisquer atualizações nossas.’

Chad Johnson, um especialista em vendas ativo no LinkedIn, descreveu as mudanças como desprioritizar curtidas, comentários e reposts. O sistema LLM ‘não se importa mais com a frequência com que você posta ou em que hora do dia’, escreveu Johnson em uma postagem. ‘Ele se importa se sua escrita mostra compreensão, clareza e valor.’

Tudo isso torna difícil determinar a verdadeira causa de quaisquer resultados do #WearthePants.

As pessoas simplesmente não gostam do algoritmo

No entanto, parece que muitas pessoas, independentemente do gênero, ou não gostam ou não entendem o novo algoritmo do LinkedIn — seja ele qual for.

Shailvi Wakhlu, consultora de ciência de dados, disse ao TechCrunch que ela tem uma média de pelo menos uma postagem por dia há cinco anos e costumava ver milhares de visualizações. Agora ela e seu marido têm sorte se virem algumas centenas. ‘É desmotivador para criadores de conteúdo com um grande público fiel’, disse ela.

Um homem disse ao TechCrunch que viu uma queda de cerca de 50% no engajamento nos últimos meses. Ainda assim, outro homem disse que viu as visualizações e o alcance das postagens aumentarem mais de 100% em um período de tempo semelhante. ‘Isso se deve em grande parte porque escrevo sobre tópicos específicos para públicos específicos, que é o que o novo algoritmo está recompensando’, disse ele ao TechCrunch, acrescentando que seus clientes estão vendo um aumento semelhante.

Mas na experiência de Marshall, que é negra, ela acredita que postagens sobre suas experiências têm desempenho pior do que postagens relacionadas à sua raça. ‘Se mulheres negras só recebem interações quando falam sobre mulheres negras, mas não quando falam sobre sua expertise específica, então isso é um viés’, disse ela.

A pesquisadora, Dean, acredita que o algoritmo pode simplesmente estar amplificando ‘quaisquer sinais que já existam’. Ele poderia estar recompensando certas postagens, não por causa da demografia do escritor, mas porque houve mais histórico de resposta a elas em toda a plataforma. Embora Marshall possa ter tropeçado em outra área de viés implícito, sua evidência anedótica não é suficiente para determinar isso com certeza.

O LinkedIn ofereceu algumas ideias sobre o que funciona bem agora. A empresa disse que a base de usuários cresceu e, como resultado, as postagens aumentaram 15% em relação ao ano anterior, enquanto os comentários aumentaram 24% no mesmo período. ‘Isso significa mais competição no feed’, disse a empresa. Postagens sobre insights profissionais e lições de carreira, notícias e análises do setor, e conteúdo educacional ou informativo sobre trabalho, negócios e economia estão indo bem, disse.

Se alguma coisa, as pessoas estão apenas confusas. ‘Eu quero transparência’, disse Michelle.

No entanto, como os algoritmos de seleção de conteúdo sempre foram segredos muito bem guardados por suas empresas, e a transparência pode levar à manipulação deles, isso é um pedido grande. É um pedido que provavelmente nunca será satisfeito.