Jair Bolsonaro cantando Xibom Bombom. Mark Zuckerberg admitindo que “quem controla os dados controla o futuro”. Nicolas Cage encenando personagens em centenas de filmes. Gal Gadot estrelando uma cena pornográfica.
Nada disso aconteceu de fato. Mas, na internet, há vídeos perfeitos de todos esses acontecimentos falsos, graças a uma técnica chamada deepfake .
Como o próprio nome já diz, a tecnologia faz uso de deep learning para gerar conteúdos falsos em vídeo.
Através de inteligência artificial , rostos de pessoas são unidos a vídeos já existentes, em uma combinação altamente realista que faz parecer que alguém tenha dito ou feito algo que, na realidade, jamais aconteceu.
Os deepfakes começaram a se tornar populares no final de 2017, quando rostos de atrizes famosas foram colocados em vídeos pornográficos. Depois disso, a técnica passou a ser utilizada para produzir vídeos de humor ou de conteúdo político.
Leia também: Entenda os planos do Twitter para combater deepfakes
Como é produzido um vídeo com deepfake
Aqui no Brasil, os vídeos com deepfake se popularizaram sobretudo pelo humor. Nesse sentido, um dos canais mais famosos no YouTube é o de Bruno Sartori, o responsável por fazer Jair Bolsonaro cantar “O pintinho, piu” e Luiz Inácio Lula da Silva ganhar o corpo, voz e gingado de Pabllo Vittar no clipe de “Parabéns”.
Bruno conta que o primeiro passo para fazer um deepfake é montar um extenso banco de dados da pessoa que terá o rosto copiado.
“São cerca de duas a quatro mil imagens”, revela. Depois, essas imagens são entregues a uma biblioteca de código aberto que processa os dados. Existem várias bibliotecas desse tipo disponíveis e Bruno, por exemplo, mistura algumas delas, pegando o melhor de cada uma.
A inteligência artificial presente nas bibliotecas reconhece padrões nas imagens do rosto, entendendo como funcionam os movimentos de olho, boca e face, faz uma cópia dele e, então, a disponibiliza para a imitação.
Como a técnica usada é o deep learning - em português, aprendizagem profunda -, a própria aplicação vai aprendendo e se treinando no processo de análise dos dados.
Por isso, “quanto maior for o tempo de treinamento, ou seja, da análise desse banco de dados por nossa inteligência artificial, melhores vão ser os resultados”, conforme explica Bruno. “Quanto mais ele analisa os dados, melhor ele vai ter a capacidade de reproduzir aqueles dados”.
Leia também: Com qual celebridade você se parece: aplicativo Gradient é realmente seguro?
O produtor de vídeos conta que, no geral, o processo de copiar um rosto demora cerca de dois dias , mas que isso varia de acordo com o processamento do computador utilizado.
Antes o tempo era mais longo: em 2017, quando começou a utilizar a técnica, Bruno levou quase quatro meses para gerar seu primeiro rosto copiado.
Para produzir um vídeo completo, porém, o tempo pode variar de acordo com o roteiro - se ele precisa gravar dublagens, por exemplo, o tempo tende a ser mais longo. Um dos vídeos mais famosos do canal de Bruno, o de Bolsonaro cantando Xibom Bombom, com quase 400 mil visualizações, demorou cerca de 20 dias para ficar pronto.
Para além do humor
Apesar de o trabalho de Bruno ser focado em humor e crítica política, nem todo deepfake tem esse objetivo.
Com a técnica tornando os vídeos cada vez mais realistas, não é tão difícil fazer alguém acreditar que uma pessoa tenha dito ou feito algo que não disse ou fez. É o caso, por exemplo, da inserção de rostos em vídeos pornográficos ou a inserção de falas na boca de políticos ou empresários influentes.
Alexandre Atheniense, advogado especializado em Direito da Tecnologia da Informação, explica que, apesar de não existir uma legislação específica sobre deepfakes no Brasil, é possível punir quem faz o mau uso da tecnologia.
Você viu?
“Nós temos, hoje, instrumentos legais suficientes para poder punir eventuais infratores que partam para fazer deepfake para divulgar uma informação falsa de uma pessoa atacando sua reputação ou divulgando um fato falso”, afirma.
Ele explica que o ponto de partida é, geralmente, o uso de imagem não autorizada mas que, de acordo com as consequências do conteúdo produzido, as implicações legais podem ser diversas. “Cada caso é um caso”, enfatiza.
Leia também: Inteligência artificial do Google vence 99,8% das partidas de game
Deepfake no cenário eleitoral
Um dos grandes casos de uso ilegal da tecnologia de deepfake é para a produção de conteúdos que prejudiquem a imagem de políticos, sobretudo em contexto eleitoral.
Muitos especialistas já colocam a tecnologia no patamar mais elevado da lista de desafios para as próximas eleições , tendo um combate ainda mais difícil que o feito sobre as fake news .
“Se a gente já tem esse hábito em relação à disseminação de notícias falsas, quando você tem uma inovação tecnológica como deepfake, essa automação só potencializa aquele ato anterior que já existia”, afirma Alexandre.
Para ele, que acredita que as deepfakes podem ser uma ameaça à democracia, as consequências do uso da tecnologia nas campanhas eleitorais pode ser ainda mais grave com o avançar dela.
“Nada me tira da cabeça que daqui a pouco nós vamos ter a popularização dos deepfakes, e depois isso irá se tornar um instrumento de campanha eleitoral”, afirma.
Leia também: Mais de 85% das eleições no mundo são influenciadas pela internet, diz pesquisa
O advogado explica que, aqui no Brasil, as questões mais novas são geralmente abordadas nas leis, pela primeira vez, no contexto eleitoral, e espera-se que isso ocorra em relação às deepfakes nas próximas eleições presidenciais de 2022.
“A Justiça Eleitoral no Brasil tem uma característica muito interessante: assuntos de vanguarda, aspectos tecnológicos, normalmente são tratados pela primeira vez por lá. Por esse motivo, eu acho que se tiver surgimento a respeito de uma normatização quanto a fake news e deepfake, eu apostaria que de repente isso pudesse começar pela área eleitoral”, opina Alexandre.
Combate às deepfakes no mundo
O tema tem gerado tanta polêmica no mundo todo que algumas empresas e governos já se preocuparam em criar regulamentações para o uso de deepfakes. Twitter , Google e Facebook começaram a pensar em medidas para diminuir o uso indevido de vídeos falsos na plataforma.
O Twitter exibirá avisos de que determinados conteúdos são deepfake, enquanto o Facebook e Google vêm desenvolvendo métodos e ferramentas para detectar os vídeos manipulados.
Além das empresas, governos já buscam algum tipo de regulamentação sobre a tecnologia. A China, por exemplo, proibiu o uso de inteligência artificial para a produção de vídeos falsos e exige que a divulgação de deepfakes venha acompanhada de um aviso claro de que se trata de um conteúdo fictício.
No estado da Califórnia, nos Estados Unidos, dois projetos de lei foram assinados recentemente acerca do tema. Um deles torna ilegal a distribuição de vídeos manipulados que visam desacreditar um candidato político dentro de 60 dias após eleições, e o outro permite que os cidadãos processem pessoas que criam deepfakes para inserir rostos em materiais pornográficos sem consentimento.
Leia também: Hackers tentam derrubar sites de partidos britânicos; entenda
Para Alexandre, é essencial que os governos entrem nessas discussões, e não apenas as empresas de tecnologia. “Tem que coibir abusos, sobretudo porque a gente sabe que isso foi utilizado muito na época eleitoral [em 2016, nos EUA] e, por esse motivo, certamente a gente precisa ter uma legislação que possa coibir”, opina.
É só uma brincadeira
Apesar de ser favorável à coibição do uso indevido de deepfakes, Alexandre afirma que o humor dificilmente será prejudicado por essas possíveis novidades nas legislações.
“A paródia em si e o humor são sempre permitidos, desde que não ultrapasse limites extremos que possa estar vinculado à imagem da pessoa envolvida com fatos falsos ou mesmo com ofensas. Isso a legislação não admite. Mas a gente tem sempre uma zona de conforto, digamos assim, em relação ao humor”, esclarece o especialista.
Para Bruno, que deixa claro em todos os seus vídeos que o conteúdo se trata de deepfake , tentar censurar as produções humorísticas não é uma saída inteligente para lidar com a disseminação de deepfakes.
“Censura não vai me parar, principalmente se vier de governos. A censura só tende a piorar o que querem censurar. O que tem que haver é uma política de educação da população, aliada a uma política de repreensão ao uso inadequado da tecnologia”, opina.