Como a desinformação se espalha nas redes sociais - e o que fazer a respeito

Levamos a desinformação a sério, CEO do Facebook, Mark Zuckerberg escreveu poucas semanas após a eleição de 2016. Desde então, a questão de como neutralizar os danos causados ​​por notícias falsas se tornou uma questão urgente tanto para empresas de tecnologia quanto para governos em todo o mundo.

No entanto, por mais difundido que seja o problema, as oportunidades de vislumbrar a desinformação em ação são bastante raras. A maioria dos usuários que geram informações incorretas também não compartilha informações precisas, então pode ser difícil perceber o efeito da própria desinformação. Por exemplo, quando o presidente Trump compartilha desinformação no Twitter , seus tweets tendem a se tornar virais. Mas eles podem não estar se tornando virais por causa da desinformação: todos esses retuítes podem, em vez disso, ser devidos à popularidade da conta de Trump, ou ao fato de que ele escreve sobre assuntos politicamente carregados. Sem um conjunto correspondente de tweets precisos de Trump, não há como saber o papel que a desinformação está desempenhando.

Para os pesquisadores, isolar o efeito da desinformação é extremamente desafiador. Não é sempre que um usuário compartilha informações precisas e imprecisas sobre o mesmo evento e quase ao mesmo tempo.



Mesmo assim, logo após o recente ataque em Toronto, foi exatamente isso que um jornalista da CBC fez. Na sequência caótica do ataque, Natasha Fatah publicou dois relatos de testemunhas oculares concorrentes: um (erroneamente, como se viu) identificando o invasor como zangado e do Oriente Médio, e outro identificando-o corretamente como Branco.

Os tweets da Fatah não são de forma alguma definitivos, mas representam uma espécie de experimento natural. E os resultados mostram o quão rápido a desinformação pode viajar. Como ilustra o gráfico abaixo, o tweet inicial - que identificou erroneamente o invasor como do Oriente Médio - recebeu muito mais engajamento do que o preciso nas cerca de cinco horas após o ataque:

Massachusetts Ave nw Washington DC 20036

Pior, o tweet contendo informações corretas não teve um desempenho muito melhor em um horizonte de tempo mais longo, até 24 horas após o ataque:

(Dados e código para os gráficos acima são disponivel aqui .)

Juntos, os tweets do Fatah sugerem que a desinformação nas redes sociais é realmente um problema. Como tal, eles levantam duas questões: Primeiro, por que o tweet incorreto se espalhou muito mais rápido do que o correto? E, em segundo lugar, o que pode ser feito para evitar a disseminação semelhante de desinformação no futuro?

quem tem mais poder no senado

A velocidade da desinformação no Twitter

Durante a maior parte da história do Twitter, seu feed de notícias era direto: o aplicativo mostrava os tweets em ordem cronológica reversa. Isso mudou em 2015 com a introdução do Twitter um feed de notícias algorítmico , que exibia tweets com base em um cálculo de relevância em vez de recência.

a guerra civil dos estados unidos

No ano passado, a equipe de engenharia da empresa revelou como seu algoritmo atual funciona . Como com o Facebook e YouTube , O Twitter agora depende de um algoritmo de aprendizado profundo que aprendeu a priorizar o conteúdo com maior engajamento prévio. Ao vasculhar os dados do Twitter, o algoritmo ensinou a si mesmo que os usuários do Twitter são mais propensos a ficar por aqui se virem conteúdo que já recebeu muitos retuítes e menções, em comparação com conteúdo que tem menos.

O fluxo de desinformação no Twitter é, portanto, uma função de fatores humanos e técnicos. Preconceitos humanos desempenham um papel importante : Como temos mais probabilidade de reagir ao conteúdo que explora nossas queixas e crenças existentes, tweets inflamados geram um envolvimento rápido. Só depois que o envolvimento acontece é que o lado técnico entra em ação: se um tweet for retuitado, adicionado como favorito ou respondido por um número suficiente de seus primeiros telespectadores, o algoritmo do feed de notícias o mostrará a mais usuários, momento em que irá explorar os preconceitos desses usuários também - gerando ainda mais engajamento e assim por diante. Na pior das hipóteses, este ciclo pode transformar a mídia social em uma espécie de máquina de confirmação de viés , perfeitamente adaptado para a disseminação de desinformação.

Se você olhar os tweets do Fatah, o processo acima termina quase no final. Um pequeno subconjunto de seguidores do Fatah imediatamente se envolveu com o tweet relatando o relato de um espectador sobre o agressor como zangado e do Oriente Médio, o que deu início a um ciclo em que maior envolvimento gerou maior audiência e vice-versa. Por outro lado, o tweet que identificou com precisão o invasor recebeu pouco envolvimento inicial, foi menos sinalizado pelo algoritmo do feed de notícias e, portanto, nunca realmente pegou. O resultado é o gráfico acima, que mostra um aumento exponencial no envolvimento para o tweet impreciso, mas apenas um aumento modesto para o preciso.

O que fazer sobre isso

Assim como o problema tem um lado humano e técnico, o mesmo ocorre com qualquer solução potencial.

No que diz respeito aos algoritmos do Twitter, não há falta de frutas ao alcance da mão. Durante um ataque em si, o Twitter pode promover contas da polícia ou do governo para que informações precisas sejam disseminadas o mais rápido possível. Como alternativa, ele também pode exibir um aviso no topo de sua pesquisa e feeds de tendências sobre a falta de confiabilidade dos relatos iniciais de testemunhas oculares.

Ainda mais, o Twitter poderia atualizar seu While You Were Away e recursos de busca. No caso do ataque de Toronto, não se poderia esperar que o Twitter identificasse a verdade mais rápido do que a polícia de Toronto. Mas, uma vez que a polícia identificou o invasor, o Twitter deveria ter sistemas implementados para restringir a visibilidade do tweet da Fatah e outras tendências de desinformação. Por exemplo, mais de dez dias após o ataque, os dois principais resultados de uma pesquisa do invasor eram estes :

Leitura do tweet:

o número de países pertencentes à organização mundial de comércio (wto), a partir de 2015, é de cerca
Leitura do tweet:

(Eu conduzi a pesquisa acima enquanto estava conectado à minha própria conta do Twitter, mas uma pesquisa enquanto estava desconectado produziu os mesmos resultados).

Infelizmente, esses não foram tweets isolados. Qualquer pessoa que use o Twitter para seguir e aprender sobre o ataque foi saudada com uma riqueza de desinformação e injúrias . Isso é algo que o Twitter pode combater: pode contratar uma equipe editorial para rastrear e remover desinformação flagrante das pesquisas de tendência ou pode introduzir um novo recurso de relatório para os usuários sinalizarem a desinformação à medida que a encontrarem. Nenhuma das opções é perfeita e a última não seria trivial de implementar. Mas o status quo é pior. Quantos usuários do Twitter continuam pensando que o ataque em Toronto foi obra de jihadistas do Oriente Médio e que as políticas de imigração do primeiro-ministro Justin Trudeau são as culpadas?

Em última análise, no entanto, a solução para a desinformação também precisará envolver os próprios usuários. Não apenas os usuários do Twitter precisam entender melhor seus próprios preconceitos, mas os jornalistas, em particular, precisam entender melhor como seus erros podem ser explorados. Nesse caso, os maiores erros foram humanos: o Fatah tweetou um relato sem corroborar, embora a testemunha em questão, um homem chamado David Leonard, ele mesmo notou que não posso confirmar ou negar se minha observação está correta.

Para conter a desinformação online, podemos e devemos exigir que os algoritmos do feed de notícias não amplifiquem nossos piores instintos. Mas não podemos esperar que eles nos salvem de nós mesmos.