Aprendizagem social mediada por algoritmos em redes sociais online

A aprendizagem social humana ocorre cada vez mais em plataformas sociais online, como Twitter, Facebook e TikTok. Nestas plataformas, os algoritmos exploram os vieses de aprendizagem social existentes (ou seja, em relação ao prestígio do grupo, informações morais e emocionais ou informações 'PRIME') para prender a atenção dos usuários e maximizar o envolvimento. Por isso, Brady e seus colaboradores (2023) sintetizaram ideias emergentes sobre "aprendizagem social mediada por algoritmo" e propuseram uma estrutura que examina suas consequências em termos de desalinhamento funcional. E discutiram soluções para reduzir o desalinhamento funcional, incluindo algoritmos que promovem diversificação limitada e aumentam a transparência da amplificação algorítmica.

Em resumo, quando os algoritmos de conteúdo exploram os vieses de aprendizagem sociais, se produz um ciclo de retroalimentação de interação humana-algoritmo que sobre representa a informação PRIME no ambiente e promove percepções sociais errôneas que podem gerar conflitos e desinformação ao invés de cooperação e resolução coletiva de problemas.

Resumo gráfico: Aprendizagem social mediada por algoritmos em redes sociais online.

Nas sociedades pré-históricas, os humanos tendiam a aprender com seus membros do grupo ou com indivíduos de maior prestígio, pois essa informação tinha maior probabilidade de ser confiável e resultar no sucesso do grupo. Porém, com o advento das comunidades modernas diversas e completas, e especialmente nas redes sociais, este vieses se tornam menos efetivos. Por exemplo, uma pessoa com que estamos conectados online pode não ser necessariamente confiável, e as pessoas podem fingir prestígio facilmente nas redes sociais. Em uma revisão publicada na revista Trends in Cognitive Science, um grupo de cientistas descrevem como as funções dos algoritmos das redes sociais estão desalinhados com os instintos sociais humanos destinados a fomentar a cooperação, o que pode conduzir a uma polarização e desinformação em grande escala.

“Várias pesquisas com usuários agora no Twitter e no Facebook sugerem que a maioria dos usuários está exausta com o conteúdo político que vê. Muitos usuários não estão satisfeitos e há muitos componentes de reputação com os quais o Twitter e o Facebook devem lidar quando se trata de eleições. de desinformação", diz o primeiro autor William Brady, psicólogo social da Kellogg School of Management em Northwestern.

“Queríamos conduzir uma revisão sistemática que tentasse ajudar a entender como a psicologia humana e os algoritmos interagem de maneiras que podem ter essas consequências”, disse Brady. "Uma das coisas que esta revisão traz para a mesa é uma perspectiva de aprendizado social. Como psicólogos sociais, estamos constantemente estudando como podemos aprender com os outros. Essa estrutura é fundamentalmente importante se quisermos entender como os algoritmos influenciam nossas interações sociais."

Os humanos estão predispostos a aprender de uma maneira geralmente promove a cooperação e a resolução coletiva de problemas, é por isso que eles tendem a aprender mais com as pessoas que consideram parte de seu grupo interno e com aqueles que consideram prestigiosos. Além disso, quando os vieses de aprendizagem estavam evoluindo pela primeira vez, era importante priorizar as informações moral e emocionalmente carregadas, pois essas informações provavelmente seriam relevantes para impor as normas do grupo e garantir a sobrevivência coletiva.

Os algoritmos geralmente selecionam informação que tiveram maior participação dos usuários para aumentar a publicidade. Isto significa que eles amplificam a mesma informação de que os humanos estão predispostos a aprender, e podem sobressaturar as fontes das redes sociais com o que os investigadores chamam de Prestígio, em grupo, Moral e Emocional (PRIME), independentemente da precisão do conteúdo ou a representatividade das opiniões de um grupo. Como resultado, é mais provável que se amplifique o conteúdo político extremo ou os temas controversos, e se os usuários não estão expostos a opiniões externas, é possível encontrar uma compreensão falsa da opinião majoritária dos diferentes grupos.

"Não é que o algoritmo seja projetado para interromper a cooperação", disse Brady. "É que seus objetivos são diferentes. E, na prática, quando você junta essas funções, acaba tendo alguns desses efeitos potencialmente negativos."

Para resolver esse problema, o grupo de pesquisa propôs que os usuários de mídia social se tornem mais conscientes de como os algoritmos funcionam e por que determinado conteúdo aparece em seu feed. As empresas de mídia social normalmente não revelam todos os detalhes de como seus algoritmos selecionam o conteúdo, mas um começo pode ser oferecer explicações sobre porque um usuário vê uma postagem específica. Por exemplo, é porque os amigos do usuário interagem com o conteúdo ou porque o conteúdo geralmente é popular? Fora das empresas de mídia social, a equipe de pesquisa está desenvolvendo suas próprias intervenções para ensinar as pessoas a serem consumidores mais conscientes das mídias sociais.

Além disso, os pesquisadores propuseram que as empresas de mídia social possam tomar medidas para mudar seus algoritmos para que sejam mais eficazes na promoção da comunidade. Em vez de favorecer apenas informações PRIME, os algoritmos podem definir um limite na quantidade de informações que amplificam e priorizam ao apresentar aos usuários um conjunto diversificado de conteúdo. Essas mudanças podem continuar a ampliar informações atraentes, ao mesmo tempo em que evitam que conteúdos mais polarizadores ou politicamente extremos sejam super-representados nos feeds.

"Como pesquisadores, entendemos o estresse que as empresas enfrentam quando se trata de fazer essas mudanças e seus resultados. É por isso que realmente acreditamos que essas mudanças poderiam, teoricamente, manter o engajamento ao mesmo tempo em que rejeitamos essa super-representação das informações PRIME", disse Brady. "A experiência do usuário pode ser melhorada fazendo algumas dessas coisas."

A revisão sugeriu que os algoritmos de conteúdo explorem os vieses humanos de aprendizagem social segundo a informação PRIME para manter a atenção e compromisso com as plataformas. Ao promover a informação, os algoritmos ensinam os usuários a expressarem mais dessa informação por si mesmos através da aprendizagem por observação e reforço. Essas interações humano-algorítmicas são um caso de desalinhamento funcional porque produzem um ambiente digital que super-representa a informação PRIME a ponto de alimentar conflito e desinformação em vez de cooperação e solução coletiva de problemas. A estrutura também sugeriu que as interações entre humanos e algoritmos podem apoiar melhor o aprendizado social funcional, aumentando a amplificação de informações diversificadas limitadas e a transparência da influência do algoritmo.

A perspectiva de desalinhamento funcional gera várias direções de pesquisa futuras. Primeiro, é importante entender melhor exatamente quanta variação os algoritmos de conteúdo explicam versus o aprendizado social humano em sua influência conjunta no comportamento das pessoas nas mídias sociais. Estudos interdisciplinares devem investigar essa interação com mais precisão por meio de experimentos de campo, experimentos de laboratório e modelagem computacional.

Assim como a pesquisa que aproveita a interação de vieses de aprendizado social humano e algoritmos de conteúdo para melhorar as interações de mídia social (por exemplo, promovendo inferências sociais precisas e diversas interações) deve ser aproveitada. De forma mais ampla, à medida que os algoritmos de conteúdo dominam cada vez mais nosso acesso à informação, a perspectiva do desalinhamento funcional destaca como pequenas decisões de design podem ter grandes consequências emergentes devido às complexas interações entre algoritmos e mecanismos humanos de aprendizado social. Grandes esforços, incluindo colaborações acadêmicas e da indústria, serão necessários para modelar melhor a dinâmica do que aprendemos com os algoritmos e o que os algoritmos aprendem conosco.