O que é um Deepfake?

O termo “deepfake” entrou pela primeira vez no domínio público em 2017, quando um usuário Reddit com o nome de usuário “deepfakes” compartilhou vídeos pornográficos adulterados no site. Ele fez isso usando a tecnologia de código aberto e aprendizado profundo do Google para trocar os rostos das celebridades nos corpos de artistas pornográficos. Os deepfakes modernos são descendentes dos códigos originais que foram usados para criar esses vídeos.

Há vários métodos para criar deepfakes. Uma das mais populares é usar a rede adversária generativa (GAN), que se treina para reconhecer padrões usando algoritmos, que também podem ser usados para criar imagens falsas.

Outro método são os algoritmos de IA chamados de codificadores, que são usados em tecnologia de substituição e troca de rosto. O decodificador recupera e troca imagens de rostos, o que permite que um rosto seja sobreposto a um corpo completamente diferente. Os deepfakes usam autocodificadores, que vão além da compressão e descompressão de codificadores clássicos, permitindo que cibercriminosos criem imagens completamente novas. Os aplicativos Deepfake usam dois autocodificadores, que permitem que imagens e movimentos sejam transferidos de uma imagem para outra.

Os deepfakes podem ser detectados reconhecendo atividade incomum ou movimento não natural, incluindo:

A falta de movimento dos olhos é um bom sinal de deepfakes. Replicar o movimento natural dos olhos é desafiador, pois os olhos das pessoas geralmente seguem e reagem à pessoa com quem estão falando.

A falta de intermitência também é uma falha com vídeos deepfaked. Replicar a ação natural e humana de piscar regularmente é difícil com a tecnologia deepfake.

A tecnologia Deepfake envolve a transformação de imagens faciais, com rostos simplesmente sendo costurados de uma imagem em vez de outra. Isso normalmente resulta em expressões faciais incomuns ou não naturais.

Se o corpo de uma pessoa não parece ter uma forma natural, então é mais provável que seja falso. A tecnologia Deepfake se concentra amplamente em rostos em vez de em todo o corpo, o que leva a formas de corpo não naturais.

As imagens falsas não podem gerar características individuais realistas, como cabelos frisados ou bagunçados.

Os deepfakes não conseguem replicar as cores naturais das imagens e vídeos. Isso os leva a mostrar cores de pele anormais.

As imagens falsas muitas vezes apresentam posicionamento inconsistente ou desajeitado da cabeça e do corpo. Exemplos disso incluem movimentos bruscos e imagens distorcidas quando as pessoas se movem ou giram a cabeça.

As imagens falsas muitas vezes apresentam posicionamento inconsistente ou desajeitado da cabeça e do corpo. Exemplos disso incluem movimentos bruscos e imagens distorcidas quando as pessoas se movem ou giram a cabeça.

Semelhante aos motivos para tons de pele não naturais, as imagens falsas profundas também são propensas a descolorações, sombras perdidas e iluminação incomum.

Os vídeos Deepfake provavelmente apresentarão sincronização labial que não se alinha com as palavras que estão sendo faladas pelas pessoas no vídeo.

Pessoas ou animais podem se mover de maneiras não naturais ou partes do corpo podem desaparecer à medida que entram entre si ou em objetos.

Shallowfakes são vídeos que aparecem fora de contexto ou são editados usando ferramentas mais simples. Um bom exemplo de furacão é a  fala de Nancy Pelosi, palestrante norte-americana da casa, editada para fazer sua voz parecer arrastada, implicando que ela estava bêbada.