Mike Schroepfer, diretor de tecnologia do Facebook, mencia que no últimom trimestre de 2020, a detecção proativa de conteúdo de discurso de ódio, bullying e assédio no Facebook está melhor do que nunca.
Esse progresso tecnológico vem ocorrendo ao longo dos últimos 3 anos. No final de 2017, a porcentagem de remoções de discursos de ódio do Facebook era de apenas 24%. No final de 2019, subiu para 80,5%. No terceiro trimestre de 2020, atingiu 94% e no último trimestre, o sistema de detecção automática já detectava 97% de publicações com discurso de ódio.
A taxa de penetração do discurso de ódio caiu de 0,10-0,11% para 0,07-0,08%. Isso significa que, para cada 10.000 visualizações de conteúdo, haverá apenas 7 a 8 discursos de ódio. O conteúdo violento caiu de 0,07% para 0,05% e a nudez de adultos caiu de 0,05-0,06% para 0,03-0,04%.
A importância da Inteligência Artificial
O Facebook usa inteligência artificial para detectar o discurso de ódio dos usuários. Mas ainda há muitos que fazem o possível para evitar a detecção. Agora, o Facebook pode detectar de forma mais completa o conteúdo que viola as políticas da plataforma.
Mike Schroepfer deu um exemplo: "Esta é uma ótima notícia" pode significar coisas totalmente diferentes quando é deixada abaixo de postagens que anunciam o nascimento de uma criança. Mas quando aparece embaixo de um posto onde um ente querido faleceu, o significado é exatamente o oposto. Portanto, é necessário considerar se o comentário viola as políticas da plataforma.
O Facebook continua a aprimorar a tecnologia de inteligência artificial, a entender a linguagem mais profundamente e a combinar e analisar as imagens, o texto e outros detalhes das postagens e, em seguida, construir um sistema que seja bom em analisar e comentar e possa aprender continuamente com novos materiais.
Essa melhoria trouxe a capacidade do Facebook de detectar textos de intimidação e assédio. A taxa de descoberta aumentou de 16% no primeiro trimestre de 2020 para 49% no quarto trimestre. Isso significa que os usuários descobriram antes de relatar. O sistema primeiro detecta e exclui ativamente esses conteúdos!
Além disso, as ferramentas de inteligência artificial do Facebook também suportam mais idiomas, permitindo detectar conteúdo que viola políticas como espanhol e árabe, por exempo. A quantidade de conteúdo de incitação ao ódio retirado atingiu 26,9 milhões, contra 22,1 milhões no trimestre anterior.
Instagram também luta contra tais discursos
O relatório de implementação dos padrões da comunidade do Facebook também inclui o Instagram. Devido aos avanços tecnológicos, um total de 5 milhões de conteúdo de intimidação e assédio foi excluído no quarto trimestre de 2020, quase um a mais que os 2,6 milhões do trimestre anterior. Ao mesmo tempo, mais de 300.000 discursos de ódio organizados foram removidos. A detecção geral de discurso de ódio atingiu 6,6 milhões, maior do que os 6,5 milhões anteriores.
Mike Schroepfer disse que apesar desses avanços, ainda há muito trabalho a ser feito, pois as mesmas palavras podem ser interpretadas com significados diferentes, dependendo da localização da publicação e dos leitores. Eles esperam que a inteligência artificial possa detectar melhor as expressões verbais em idiomas, culturas e regiões, e treinar máquinas para distinguir diferenças sutis no significado da linguagem.
😕 Poxa, o que podemos melhorar?
😃 Boa, seu feedback foi enviado!
✋ Você já nos enviou um feedback para este texto.
