De políticos a atrizes famosas ao fundador do Facebook, algumas pessoas foram afetadas pelo deepfake – esse novo formato de vídeo está causando uma grande dor de cabeça, pelo menos por enquanto, e também levou muitos pesquisadores a se unirem para encontrar maneiras de identificar ou neutralizá-lo.
À medida que as táticas evoluem e o número de casos aumenta, fica cada vez mais difícil distinguir entre o que é real e o que não é – em menos de um ano, o número de deepfakes circulando na internet dobrou de 7.964 para 14.698.
Outra má notícia? 96% deste conteúdo é pornográfico, de acordo com dados do relatório The State of Deepfakes publicado pela empresa de segurança cibernética Deeptrance.
Mas o que é o deepfake? Qual tecnologia está por trás dele e como identificá-lo? Existe alguma regulamentação que possa puni-lo? Essas são apenas algumas das dúvidas que afloram conforme a tecnologia avança e se torna cada vez mais comum em nosso dia a dia.
O que é essa coisa de deepfake e qual é a tecnologia por trás disso?
Inicialmente, Deepfake é uma forma de usar inteligência artificial (IA) para criar vídeos falsos em que o rosto de uma pessoa específica é colocado em outro corpo, reproduzindo assim uma situação que realmente não aconteceu.
A expressão está relacionada ao aprendizado profundo e ficou famosa em 2017, quando um usuário do Reddit começou a postar vídeos pornográficos estrelados por atrizes mundialmente famosas.
Para criar tais montagens, o software precisa ser alimentado com várias fotos e vídeos de uma pessoa – uma tarefa que não é nada complicada dada a quantidade de informações disponíveis online.
Nisso, todos esses dados são processados e é assim que a máquina aprende recursos como os recursos de um rosto ou a maneira como ele se move.
Tecnicamente, o deepfake trabalha com o que chamamos de Generative Adversarial Networks (GAN), onde dois tipos de inteligência artificial – uma generativa e outra discriminatória – estão em conflito.
Assim, ambas as espécies são alimentadas com informações dessa maneira e, à medida que a inteligência discriminativa ganha experiência em discriminar o que é falso e verdadeiro, o gerador também melhora a criação de falsificações que enganam a inteligência discriminativa.
Desse modo, o programa é treinado em dados originais e falsos simultaneamente até encontrar uma interseção onde possa unir as duas faces, obtendo informações de uma pessoa e processando-as como se fossem uma outra.
Casos mais famosos envolvendo a tecnlogia
Você já deve ter ouvido falar em deepfake e veio parar aqui no nosso blog justamente por causa de um desses fascinantes acontecimentos:
Em 2018, o diretor Jordan Peele viralizou em um vídeo que aparentemente ninguém mais nomeou ninguém menos que o próprio Barack Obama , o ex-presidente dos Estados Unidos.
A intenção do vídeo foi chamar a atenção para o fato de que discursos políticos falsos – mas convincentes – já fazem parte do cotidiano da população e é preciso ter cuidado para não tomá-los como verdades.
Outra manipulação conhecida ocorreu com a democrata Nancy Pelosi. No vídeo, cuja velocidade foi drasticamente reduzida e compartilhada até pelo presidente Donald Trump, a política americana parecia bêbada.
Ademais, um caso emblemático de deepfake envolveu o presidente do Gabão, Ali Bongo. Depois que ele desapareceu por alguns meses, surgiram especulações sobre suas condições de saúde, levando as pessoas a acreditar que ele estava doente ou mesmo morto.
Nesse aspecto, para acalmar a situação, o governo divulgou um vídeo de Bongo, que despertou ainda mais a ira da população que simpatizava com ele Uso de inteligência artificial no material suspeito.
A confusão foi tão grande que uma tentativa de golpe mal sucedida até seguiu o referido vídeo.
E, finalmente, nem Mark Zuckerberg conseguiu se proteger dessa ameaça crescente – em junho deste ano uma agência de publicidade e dois artistas criaram um Deepfake no qual o fundador do Facebook fala sobre como a empresa detém o poder sobre os dados e a vida de milhões de pessoas.
Pessoas ironicamente, o objetivo do vídeo, originalmente postado no Instagram, era desafiar a política da Zuckerberg Networks de não remover esse tipo de material depois de postado.
-> Assine nossa Newsletter para ler conteúdos exclusivos!