Deepfake é uma tecnologia de inteligência artificial usada para criar conteúdos digitais falsos e convincentes, como áudio, imagens e vídeos aonde uma pessoa se passa por outra. Tudo é feito com uma tecnologia de inteligência artificial de auto nível, e os resultados são assustadores por serem tão realistas.
O termo que descreve tanto a tecnologia utilizada quanto o resultado (conteúdo falso), vem da tecnologia subjacente "deep learning", que é uma forma de IA.
Algoritmos de aprendizagem profunda que são capazes de se auto ensinarem como resolver problemas, são usados para trocar rostos em vídeos para produzir uma mídia falsa de aparência muito real.
Como são criados os deepfakes?
Existem vários métodos para criar deepfakes, mas o mais comum se baseia no uso de redes neurais profundas envolvendo Autoencoders (AE) que empregam uma técnica de troca de rosto. Para isso é necessário o vídeo de destino para usar como base do deepfake e uma coleção de clipes da pessoa a ser "copiada".
O autocodificador é um programa de IA de aprendizagem profunda, encarregado de estudar os clipes de vídeo para entender como a pessoa é, a partir de uma variedade de ângulos e condições ambientais diferentes. Em seguida, o programa mapeia a pessoa e usa para gerar a imagem baseada em quem está fazendo o deepfake, encontrando características comuns.
Outro tipo de aprendizado de máquina é adicionado à mistura, conhecida como redes contraditórias generativas (GANs), que detectam e melhoram quaisquer falhas, dificultando para os detectores de deepfake decodificá-los.
Os GANs também são usados como um método popular para a criação de deepfakes, contando com o estudo de dados em abundância para "aprender" como desenvolver novos exemplos que imitam a pessoa real, com resultados extremamente precisos.
Vários aplicativos e softwares facilitam a geração de deepfakes até mesmo para iniciantes, como o aplicativo chinês Zao, DeepFace Lab, FaceApp (aplicativo de edição de fotos com técnicas de IA incorporadas), o Face Swap e o DeepNude, um app particularmente perigoso que gerou falsas imagens nuas de mulheres.
Muitos softwares de deepfake podem ser encontrados no GitHub, uma comunidade de código aberto de desenvolvimento de software. Alguns desses aplicativos são usados para fins de entretenimento puro, e é por isso que o deepfake não é proibido.
Um exemplo de uso do deepfake para entretenimento é o canal do jornalista Bruno Sartori, que faz vídeos humorísticos envolvendo figuras da política brasileira, como Lula e Bolsonaro, e também de celebridades.
Mas outros são muito mais propensos a serem usados de maneira maliciosa.
As consequências do deepfake
A internet e a tecnologia nos trouxeram muitas facilidades e melhorias para nossas vidas, e isso é inegável. Mas nem tudo são rosas, e há o lado ruim da tecnologia. Um grande e grave problema no mundo digital são as fake news, ou notícias falsas em português.
Este problema é tão sério que muitas vezes acaba tendo consequências avassaladoras, como pessoas que deixam de se vacinar contra a covid-19 e outras doenças, interferência eleitoral, tensão política e atividades criminosas.
O DJ Alok, um dos músicos mais famosos do Brasil atualmente, fez um alerta ao seu público, mostrando como o deepfake pode ser perigoso e enganar as pessoas, como você pode ver no vídeo abaixo que viralizou nas redes sociais, aonde o dono do SBT, Sílvio Santos, aparece apresentando o Jornal Nacional, programa da concorrente Globo.
Os Perigos dos Deepfakes
Embora a capacidade de trocar os rostos para criar vídeos sintéticos confiáveis e realistas tenha algumas aplicações benignas interessantes, como seu uso no cinema e em games, esta é obviamente uma tecnologia perigosa com algumas aplicações preocupantes.
Uma das primeiras aplicações reais para deepfakes foi, de fato, criar pornografia sintética (particularmente pornografia de vingança), especialmente para prejudicar celebridades e figuras proeminentes. De acordo com um relatório do Deeptrace, 96% dos vídeos deepfake encontrados na internet em 2019 eram relacionados à pornografia.
Criar vídeos educativos divertidos e elencos personalizados para seus filmes favoritos não são os únicos usos de deepfakes. Vídeos adulterados por IA têm um lado mais sombrio que se tornou muito mais proeminente do que seus usos positivos e benignos.
😕 Poxa, o que podemos melhorar?
😃 Boa, seu feedback foi enviado!
✋ Você já nos enviou um feedback para este texto.
