Aprenda o que é deepfake e saiba como se proteger!

A inteligência artificial (IA) está cada vez mais presente na vida das pessoas, realizando tarefas e dando origem a conteúdos que, antes, pareciam não ser possíveis. Um dos usos que se popularizou dessa tecnologia é o deepfake. Você sabe o que isso significa?

Esse recurso viralizou nas redes sociais e se espalhou de forma descontrolada, colocando celebridades e pessoas comuns em situações inusitadas. No entanto, apesar de parecer divertida, a ferramenta merece atenção, pois pode facilitar golpes online ao fazer conteúdos falsos parecerem reais.

Quer saber mais sobre o deepfake, quais são as suas possibilidades e como se proteger dos riscos que ele pode gerar? Continue a leitura para conferir!

O que é deepfake?

Deepfake é uma tecnologia baseada em IA para criar vídeos falsos em que as pessoas realizam atividades que não foram feitas na vida real. Os softwares são capazes de sincronizar os movimentos labiais, expressões e gestos do corpo, gerando resultados realistas.

O recurso ficou famoso em 2017, quando um usuário do Reddit, um agregador social de notícias, utilizou as ferramentas de inteligência artificial e aprendizado de máquina de código aberto. Na época, o internauta criou um algoritmo capaz de mapear o rosto de uma pessoa em outra, frame por frame.

As edições criaram vídeos íntimos falsos de famosas, como Emma Watson e Gal Gadot. A ferramenta também foi usada para gerar discursos de políticos, como Barack Obama, que nunca ocorreram. Cabe ainda mencionar o seu uso recorrente em conteúdos humorísticos.

Os softwares desenvolvidos a partir de deepfake fazem a transposição das imagens automaticamente, sem a necessidade de edições manuais. Tudo que é necessário para o procedimento acontecer é contar com dois modelos de rosto: o original e o que será sobreposto.

Apesar de parecer uma tecnologia totalmente nova, a sobreposição de rostos já era utilizada pela indústria do cinema bem antes de se popularizar na internet. Isso é feito quando um ator precisa de dublê, por exemplo.

Contudo, os recursos aplicados na televisão e nos filmes é mais sofisticado e tem alto custo. Já a ferramenta que se popularizou na internet é mais simples, barata e acessível.

No início, o deepfake só podia ser usado por pessoas com conhecimentos avançados em programação. Porém, os aplicativos que automatizam o processo tornaram o seu uso mais acessível — ainda que o resultado seja menos preciso.

Como essa tecnologia funciona?

O termo deepfake é uma adaptação da expressão na língua inglesa “deep learning”, que pode ser traduzida literalmente como “aprendizagem aprofundada”. Já a palavra “fake” vem também do inglês e significa “falso”.

No deep learning, a IA realiza a chamada aprendizagem de máquina, quando ela extrai recursos de alto nível de dados brutos a partir de várias camadas de algoritmos. Isso significa que a máquina consegue interpretar os dados de maneira mais natural, próxima da capacidade humana.

Já na técnica conhecida como deepfake, a tecnologia é capaz de compreender expressões faciais e movimentos do corpo humano para fazer montagens que são bastante realistas. Assim, pessoas famosas ou comuns podem aparecer em vídeo em circunstâncias que não condizem com a realidade.

O usuário do Reddit que foi responsável pela popularização do deepfake usou o TensorFlow, uma biblioteca de código aberto para aprendizado de máquina. A ferramenta foi aliada ao Keras, que é uma API de deep learning em linguagem Python.

Para realizar o procedimento, o programador deve alimentar o software com fotos e vídeos das pessoas que passarão pela edição. Essas imagens são processadas por uma rede neural e a máquina entende as características de cada uma delas.

Logo, gera-se uma espécie de truque, em que o software recebe a imagem de uma pessoa e processa como se fosse a outra.

Quais são os tipos de deepfake?

O deepfake mais comum é o de vídeo, mas existem outras estratégias para transmitir um conteúdo falso com base em um conteúdo de IA. Um desses tipos é o deepfake de áudio, que cria uma mensagem falada copiando a voz de outra pessoa.

Ele é frequentemente utilizado para espalhar conteúdos falsos em redes como o WhatsApp. Ainda existem os deepfakes textuais, que geram materiais escritos por IAs, e os deepfakes sociais, que criam perfis falsos nas redes sociais.

Também é válido mencionar que a sobreposição de rostos pode ocorrer em tempo real, para transmissões ao vivo. O app  mais comum nessa técnica é o DeepFaceLive.

Qual a diferença entre deepfake e shallowfake?

Em meio a muitos conteúdos falsos, é importante saber diferenciar as estratégias que podem ser utilizadas para manipular os vídeos. Além do deepfake, existe outra técnica que se popularizou: o shallowfake.

Nesse caso, não é usada uma ferramenta de IA, e sim o recorte de áudios e vídeos, que são tirados de seu contexto original para transmitir uma mensagem equivocada. A tradução de shallow é “rasa”, portanto, se contrapõe ao “deep”.

Desse modo, ao contrário do deepfake, o shallowfake constrói um conteúdo a partir de ações que realmente aconteceram. No entanto, elas são recortadas e distorcidas, resultando em uma mensagem modificada.

Um exemplo de shallowfake no Brasil foi um vídeo da jornalista Renata Vasconcellos apresentando uma pesquisa de intenções de votos nas eleições de 2022. O editor utilizou falas da profissional de anos anteriores e fez uma colagem que modificou o texto. Com isso, o vídeo fazia acreditar que se tratava de uma pesquisa daquele ano.

Quais os riscos dessa IA?

Conforme você aprendeu, o deepfake permite criar diversos tipos de conteúdo falso com resultado muito próximo da realidade. Apesar de os vídeos não serem perfeitos e ser possível identificar as falhas ao observar atentamente, eles têm o potencial de enganar muitas pessoas.

Esses conteúdos podem ser criados sem intenções maliciosas, mas existem muitos riscos envolvidos em uma ferramenta que coloca as pessoas em situações em que elas nunca estiveram. Desse modo, eles têm o potencial de prejudicar a imagem das vítimas — em especial, de famosos.

Conheça alguns dos potenciais riscos desse uso da IA!

Vingança e ameaça

Como você viu, o recurso já foi utilizado muitas vezes para expor celebridades a situações constrangedoras. O deepfake pode ser empregado para vingança passional ou mesmo para ameaçar intimidar pessoas.

Dessa maneira, existe o risco de esses conteúdos online serem usados também para chantagear as vítimas. É o que ocorre quando os golpistas ameaçam divulgar os materiais falsos se não receberem uma recompensa.

Criação de factoides

Em um cenário em que muitas notícias falsas se espalham rapidamente, o deepfake é uma ferramenta que pode gerar factoides. Assim, ele consegue distorcer a realidade e ser usado, inclusive, como recurso político, afetando até o processo eleitoral de um país.

O deepfake pode, por exemplo, fazer com que políticos pareçam dizer coisas que nunca disseram, que podem ser ofensivas, absurdas ou ilícitas. Ainda que seja possível provar que não são verdadeiros, esses conteúdos online são capazes de influenciar parte das pessoas em sua escolha.

Fraudes financeiras

Apesar de a ferramenta ser utilizada com mais frequência para imitar o rosto de celebridades, todas as pessoas estão sujeitas a fraudes com a IA. Já existem registros de golpes do uso de deepfake para acessar aplicativos bancários em celulares e desviar o dinheiro das vítimas.

Como as ferramentas permitem que qualquer pessoa se passe por outra, elas podem ser destinadas ao acesso de dados, por exemplo, nos apps de banco e furtar o seu dinheiro.

Os vídeos com rostos falsos e os áudios que replicam a voz de outra pessoa também podem ser usados para extorquir familiares e amigos, por exemplo. Os criminosos podem entrar em contato com pessoas próximas, usando esses materiais gerados por IA e exigindo pagamentos ou se passando pelo indivíduo.

Existe algum benefício no uso de deepfake?

Você viu que a criação desses conteúdos falsos online pode representar muitos riscos, mas será que existe algum benefício nessa tecnologia? Veja algumas possibilidades de usos positivos da IA na reconstrução de imagens!

Entretenimento

Para entender as formas positivas de utilizar o aprendizado de máquina, é preciso considerar que ele se baseia no princípio da reconstrução facial.

Apesar de parecer uma tecnologia distante, essa ferramenta já está presente na rotina da maioria dos internautas — especialmente nas redes sociais. A criação de emojis personalizados, por exemplo, segue o princípio de reproduzir as características físicas de uma pessoa em um avatar animado.

Do mesmo modo, os filtros de Instagram, TikTok e outras redes fazem esse mapeamento facial para modificar as características dos rostos. Algumas ferramentas permitem combinar imagens de duas pessoas, por exemplo, de um casal para criar a imagem de como seria o seu filho.

Existem também os aplicativos que conseguem animar uma foto e fazer com que a pessoa pareça estar cantando ou dançando. Você aprendeu ainda que essa tecnologia é muito usada no cinema e na televisão para criar efeitos especiais.

Portanto, essa modificação da imagem pode ser uma forma de entretenimento, que já faz parte do dia a dia de muitas pessoas e não oferece consequências negativas quando é usada dessa forma.

Mercado de trabalho

A deepfake também é usada de forma positiva no mercado de trabalho. A partir dessa ferramenta, celebridades e produtores de conteúdo digital conseguem vender peças publicitárias sem se deslocarem até os sets de filmagem. O resultado é um material mais dinâmico no segmento.

Além disso, o recurso pode ser aplicado em entrevistas de emprego para mitigar problemas como os vieses de gênero e raça, que em muitos casos tornam as seleções menos igualitárias.

Acompanhamento psicológico

Cabe ainda mencionar a possibilidade de utilizar a modificação facial para auxiliar no acompanhamento psicológico. Para algumas pessoas, mostrar o rosto é um desafio no atendimento terapêutico, pois elas se sentem constrangidas.

Nesse contexto, a terapia por videoconferência usando um recurso para modificar o rosto é uma possibilidade para proporcionar mais conforto.

Como detectar um deepfake e se proteger?

Agora que você já sabe mais sobre o que é deepfake e quais são as suas possíveis consequências, é importante entender como se proteger das ameaças que podem surgir. Conheça formas de evitar seus efeitos negativos!

Aprenda a identificar o deepfake

Ainda que os recursos aplicados na criação de deepfakes pareçam verdadeiros, existem falhas que podem ser percebidas com o olhar mais atento. Alguns pontos de atenção são o movimento dos lábios, a entonação da voz e o tom da pele.

Em vídeos modificados, a fala tende a não ficar sincronizada, ou seja, o movimento dos lábios não ocorre no mesmo tempo em que as palavras são ditas. Da mesma forma, o tom da pele pode se distorcer quando a pessoa do vídeo se move.

Verifique se os movimentos estão orgânicos e, se possível, compare com outros vídeos da pessoa para saber se condiz com a sua fisionomia original. Uma dica também é observar se os olhos estão piscando, já que a ferramenta muitas vezes não reproduz essa função humana.

Cheque a veracidade do conteúdo em outras fontes

Para se proteger de deepfake e outros conteúdos falsos que podem surgir na internet, é fundamental sempre verificar as origens do conteúdo. Antes de aceitá-lo como verdadeiro, busque outras fontes confiáveis para saber se aquela informação está correta.

Esse cuidado vale mesmo que você tenha recebido o material de uma pessoa em quem você confia. Isso porque ela também pode ter sido vítima de um conteúdo falso, sem identificá-lo. Portanto, é necessário checar as fontes e alertar as pessoas próximas caso constate que aquele conteúdo não é verdadeiro.

Adote mecanismos de segurança nos aparelhos

Você já sabe que os softwares de IA no deepfake podem ser utilizados com qualquer pessoa, certo? Desse modo, vale adotar mecanismos de segurança nos aparelhos eletrônicos, como computadores, notebooks e smartphones.

Veja dicas para se proteger:

• use senhas fortes e diferentes em todos os cadastros;
• tenha um bom pacote de segurança para proteger as suas redes domésticas ou empresariais;
• utilize a biometria digital nos aparelhos;
• evite acessar suas contas em redes públicas;
• se possível, mantenha as suas imagens nas redes sociais acessíveis apenas para quem você conhece;
• não acesse aplicativos bancários de aparelhos de outras pessoas.

Conseguiu entender o que é deepfake e quais são os potenciais riscos dessa tecnologia? Como você viu, ele tem muitas aplicações positivas, mas também pode gerar problemas éticos e legais. Desse modo, é necessário entender como essa IA funciona e ter atenção com os conteúdos da internet.

Esse conteúdo foi útil? Ajude outras pessoas a se preservarem também compartilhando este artigo em suas redes sociais!