O Google tem desenvolvido uma plataforma de inteligência artificial para conseguir identificar e ainda punir os discursos de ódio que circulam pela internet. A ferramenta em questão usa palavras-chaves que podem contar em conteúdos relacionados à violência ou mesmo linguagem obscena.
Porém, ao que tudo indica, burlar o sistema de identificação parece não ser tão complicado. Um método revelou que as possibilidades de o algoritmo do Google não detectar algum palavrão diminui quando, ao meio dos comentários, existe o termo "amor" em algum trecho.
A maneira de conseguir enganar a IA está justamente no modo de encontrar as ofensas. A ferramenta acaba dando uma nota em porcentagem para algum comentário considerado negativo. Deste modo, a presença da palavra "amor" e anda outros termos positivos diminuiu o valor atribuído ao texto para que ele pudesse ter sido excluído.
Com a descoberta para burlar a tecnologia, o Google deverá aprimorar o seu recurso e deixar a sua criação ainda mais inteligente. Uma das medidas será o Google entender qual a intenção real do texto e o contexto de um termo.
Fonte: TheNextWeb
😕 Poxa, o que podemos melhorar?
😃 Boa, seu feedback foi enviado!
✋ Você já nos enviou um feedback para este texto.
