Se, como muitos muçulmanos australianos, você relatou discurso de ódio no Facebook e recebeu uma resposta automática dizendo que não viola os padrões da comunidade da plataforma, você não está sozinho.
Nós e nossa equipe somos os primeiros cientistas sociais australianos a receber financiamento por meio do Content Policy Research Awards do Facebook, que usamos para pesquisar incitação ao ódio nas páginas da comunidade LGBTQI + em cinco países asiáticos: Índia, Mianmar, Indonésia, Filipinas e Austrália.
Analisamos três aspectos da regulamentação do discurso de ódio na região Ásia-Pacífico ao longo de 18 meses. Primeiro, mapeamos a lei de discurso de ódio nos países em nosso estudo de caso, para entender como esse problema poderia ser combatido legalmente. Também verificamos se a definição de “discurso de ódio” do Facebook incluía todas as formas e contextos reconhecidos para esse comportamento perturbador.
Além disso, mapeamos as equipes de regulamentação de conteúdo do Facebook e conversamos com a equipe sobre como as políticas e procedimentos da empresa funcionavam para identificar formas emergentes de ódio.
Embora o Facebook tenha financiado nosso estudo, ele disse que, por razões de privacidade, não poderia nos dar acesso a um conjunto de dados do discurso de ódio que remove. Portanto, não foi possível testar a eficácia com que seus moderadores internos classificam o ódio.
Em vez disso, capturamos postagens e comentários das três principais páginas públicas LGBTQI + do Facebook em cada país, procurando incitação ao ódio que os filtros de IA da plataforma ou moderadores humanos não perceberam.
Os gerentes estão decepcionados
Entrevistamos os administradores dessas páginas sobre sua experiência em moderar o ódio e o que eles achavam que o Facebook poderia fazer para ajudá-los a reduzir o abuso.
Fomos informados de que o Facebook frequentemente rejeitava suas denúncias de discurso de ódio, mesmo quando a postagem violava claramente as Diretrizes da comunidade. Em alguns casos, as mensagens que foram excluídas originalmente seriam republicadas na apelação.
A maioria dos gerentes de página disse que o processo de “bookmarking” raramente funcionava e o considerava assustador. Eles queriam que o Facebook os consultasse mais para ter uma ideia melhor dos tipos de abuso que veem postados e por que constituem discurso de ódio em seu contexto cultural.
Definir discurso de ódio não é o problema
O Facebook há muito tem problemas com a escala e o escopo do discurso de ódio em sua plataforma na Ásia. Por exemplo, embora tenha banido alguns extremistas hindus, deixou suas páginas online.
No entanto, durante nosso estudo, ficamos satisfeitos em ver que o Facebook expandiu sua definição de discurso de ódio, que agora captura uma gama mais ampla de comportamentos de ódio. Também reconhece explicitamente que o que acontece online pode desencadear violência offline.
É importante notar que nos países em que nos concentramos, o “discurso de ódio” raramente é exatamente proibido legalmente. Descobrimos que outras regulamentações, como leis de segurança cibernética ou tolerância religiosa, podem ser usadas para agir contra o discurso de ódio, mas tendem a ser usadas para suprimir a dissidência política.
Concluímos que o problema do Facebook não é definir o ódio, mas não ser capaz de identificar certos tipos de ódio, como o publicado em línguas minoritárias e dialetos regionais. Muitas vezes, também não responde de forma adequada a relatos de usuários sobre conteúdo de incitação ao ódio.
Onde o ódio era pior
Os relatos da mídia mostraram que o Facebook tem dificuldade em identificar automaticamente o ódio postado em línguas minoritárias. Não forneceu materiais de treinamento para seus próprios moderadores nos idiomas locais, embora muitos sejam de países da Ásia-Pacífico onde o inglês não é a primeira língua.
Nas Filipinas e na Indonésia em particular, descobrimos que os grupos LGBTIQ + estão expostos a um nível inaceitável de discriminação e intimidação. Isso inclui ameaças de morte, ataques a muçulmanos e ameaças de apedrejamento ou decapitação.
Nas páginas indianas, os filtros do Facebook não conseguiram capturar emojis de vômito postados em resposta a fotos de casamento gay e rejeitaram alguns relatos muito claros de difamação.
Na Austrália, por outro lado, não encontramos nenhum discurso de ódio não moderado, apenas outros tipos de comentários insensíveis e inadequados. Isso pode indicar que menos abusos são postados ou que há moderação mais eficaz em inglês pelo Facebook ou pelos administradores da página.
Da mesma forma, em Mianmar, os grupos LGBTIQ + tiveram muito pouco discurso de ódio. Mas estamos cientes de que o Facebook está trabalhando muito para reduzir o discurso de ódio em sua plataforma lá, após ser usado para perseguir a minoria muçulmana Rohingya.
Além disso, a diversidade de gênero provavelmente não é uma questão tão volátil em Mianmar como na Índia, Indonésia e Filipinas. Nesses países, os direitos LGBTIQ + são altamente politizados.
O Facebook deu alguns passos importantes para combater o discurso de ódio. No entanto, estamos preocupados que o COVID-19 tenha forçado a plataforma a confiar mais na moderação da máquina. Isso também em um momento em que só consegue identificar o ódio automaticamente em cerca de 50 idiomas, apesar de milhares serem falados todos os dias em toda a região.
O que recomendamos
Nosso relatório para o Facebook descreve várias recomendações importantes para ajudar a melhorar sua abordagem para combater o ódio em sua plataforma. No geral, instamos a empresa a se reunir mais regularmente com grupos perseguidos na região, para que possa aprender mais sobre o ódio em seus contextos e línguas locais.
Isso deve acontecer junto com um aumento no número de especialistas em políticas de seu país e moderadores internos com experiência em línguas minoritárias.
Refletindo os esforços na Europa, o Facebook também precisa desenvolver e divulgar seu canal de parceiro confiável. Isso fornece organizações parceiras de denúncias de discurso de ódio visíveis e oficiais, por meio das quais as pessoas podem denunciar diretamente atividades de ódio ao Facebook durante crises como os ataques à mesquita de Christchurch.
De maneira mais geral, gostaríamos que governos e ONGs cooperassem para estabelecer um teste de monitoramento de discurso de ódio regional na Ásia, semelhante ao organizado pela União Europeia.
Seguindo o exemplo da UE, tal iniciativa poderia ajudar a identificar tendências urgentes no discurso de ódio em toda a região, fortalecer as parcerias locais de reportagem do Facebook e reduzir a incidência geral de conteúdo de ódio no Facebook.
Este artigo foi republicado de The Conversation sob uma licença Creative Commons. Leia o artigo original.
