É uma história tão antiga quanto a própria internet.
Redes sociais como o Facebook e o YouTube estão constantemente aprimorando suas ferramentas de moderação de conteúdo com o objetivo de eliminar mensagens prejudiciais, como discurso de ódio, desinformação e incentivos à violência. No entanto, relatórios indicam que os usuários ainda conseguem publicar conteúdo nocivo com certa facilidade.
O último caso mencionado se refere ao aumento do conteúdo anti-semita, que está se tornando mais frequente globalmente e se propagando através de publicações nas redes sociais.
De acordo com informações do New York Times, segundo dois novos estudos realizados pelo Centro de Contratação Digital Hate e pela Anti-Defamation League, foi constatado que as redes sociais, como Facebook (e Instagram), Twitter, YouTube, Reddit, Twitch, TikTok e até mesmo Roblox, removem apenas uma pequena parte do conteúdo denunciado como anti-semita pelas organizações.
De acordo com o Centro de Contratação Digital Hate, o Facebook eliminou aproximadamente 10% dos vários conteúdos denunciados pelos pesquisadores, o Twitter agiu em cerca de 11%, o YouTube em 21% e o TikTok em 18%.
O relatório da ADL apresentou descobertas parecidas, porém o Twitter se destacou. Foram atribuídas classificações às plataformas conforme sua eficácia em lidar com denúncias de discurso de ódio. O Twitter recebeu um B- (parabéns!), enquanto o Facebook e o TikTok foram avaliados com notas C- e o Roblox obteve um D desanimador.
O diretor da ADL resumiu de forma adequada para o Times: Os achados são desanimadores, porém impossíveis de serem superados.
Isso ocorre porque esses relatórios são apenas os casos mais recentes em que os usuários continuam a compartilhar conteúdo proibido pelas plataformas sociais, abrangendo desde discurso de ódio até desinformação sobre Covid-19 e incitações à violência.
No final de julho, o The Washington Post divulgou informações sobre pesquisas que destacaram a rápida disseminação de propaganda anti-vacina e desinformação relacionada à COVID no Facebook e YouTube. Enfrentar esse tipo de conteúdo tem sido uma meta importante para as redes sociais, porém o conteúdo que o presidente Biden chamou de “mortal” continua se espalhando.
Em abril, o BuzzFeed Notícia divulgou informações de um relatório interno do Facebook que descreveu como os promotores do movimento “Stop the Steal” conseguiram estimular a violência nas comunidades do Facebook, enquanto a plataforma não conseguiu responder adequadamente.
Devido em parte à linguagem enfadonha de políticos como Donald Trump, durante a pandemia, a comunidade asiática foi alvo de um aumento significativo de ódio e assédio nas plataformas de redes sociais. De acordo com um relatório da CNET em abril, a ADL constatou que “17% dos asiáticos americanos relataram ter sofrido assédio grave online em janeiro, em comparação com 11% no mesmo período do ano anterior, representando o maior aumento em relação a outros grupos”.
Esses relatórios se encaixam em categorias de conteúdo que são proibidas pelas diretrizes comunitárias de várias plataformas, como o Facebook. Em situações envolvendo anti-semitismo, desinformação sobre o COVID, atividades da organização Steal e discriminação contra asiáticos, postagens em redes sociais parecem ter relação com atos de violência ou morte no mundo real.
O Facebook divulga um Relatório Trimestral de Execução de Padrões Comunitários, que apresenta informações sobre a quantidade de denúncias de conteúdo proibido e a eficácia da resposta do Facebook. De acordo com o relatório mais recente de maio, referente aos primeiros três meses de 2021, foi observada uma redução na incidência de discurso de ódio, representando apenas “0,05-0,06%, ou 5 a 6 visualizações por 10.000 visualizações”. Além disso, o Facebook menciona que avanços em sua inteligência artificial permitiram que “detectasse proativamente” — em vez de depender das denúncias dos usuários — 97% do conteúdo de discurso de ódio removido.
Contudo, a falta de transparência em relação aos números revelados recentemente sobre postagens anti-semitas expõe uma falha nos dados apresentados. Embora 97% das postagens tenham sido removidas pela empresa de mídia social, ainda havia muitas postagens que as organizações sem fins lucrativos precisavam identificar e denunciar. De acordo com o Centro de Contratação Digital Hate, aproximadamente 7,3 milhões de pessoas visualizaram postagens anti-semitas nas plataformas combinadas.
O fato de já termos escutado esta narrativa anteriormente não diminui a sua inquietude. Essas organizações estão constantemente empenhadas em aprimorar-se e reconhecem que ainda têm desafios a superar. Enquanto isso, vidas são perdidas.
Conteúdo do vídeo: Dicas para identificar e prevenir a propagação de informações falsas.
Plataformas digitais