Por que os deepfakes estão rapidamente se tornando um problema para todos?

Deepfakes estão ficando melhores em imitar pessoas reais. Em breve isso será problema de todos.

Se a batalha contínua contra o ransomware não mantiver as equipes de segurança ocupadas, assim como o desafio de proteger os dispositivos de IoT ou computação em nuvem em constante expansão, surge um novo desafio – impedir a próxima onda de impostores digitais ou deepfakes.

O que é deepfake e como funciona?

O termo “deepfake” vem da tecnologia subjacente “deep learning”, uma forma de inteligência artificial. Algoritmos de aprendizado profundo, que ensinam sozinhos a resolver problemas quando recebem grandes conjuntos de dados, são usados ​​para trocar faces em vídeo e conteúdo digital para criar mídias falsas que parecem realistas.

Existem várias maneiras de criar deepfakes, mas a mais comum depende do uso de redes neurais profundas que envolvem autoencoders que empregam técnicas de troca de face. Você primeiro precisa de um vídeo de destino como base para o deepfake, depois precisa de um conjunto de videoclipes da pessoa que deseja incorporar ao alvo.

O vídeo pode ser completamente desconhecido; por exemplo, o alvo pode ser um clipe de um filme de Hollywood e o vídeo da pessoa que você está inserindo no filme pode ser um clipe aleatório baixado do YouTube.

Um autoencoder é um programa de IA de aprendizado profundo cuja tarefa é estudar videoclipes para entender como uma pessoa se parece de vários ângulos e condições ambientais e, em seguida, mapear essa pessoa para a pessoa no vídeo de destino para encontrar fontes comuns.

Outro tipo de aprendizado de máquina é adicionado à mistura, chamado de redes adversariais generativas (GANs), que podem detectar e melhorar quaisquer falhas de deepfake em várias rodadas, dificultando a decodificação dos detectores de deepfake.

As GANs também são usadas como um método popular para criar deepfakes, contando com o estudo de grandes quantidades de dados para “aprender” a desenvolver novos exemplos que imitam a realidade, com resultados dolorosamente precisos.

Alguns aplicativos e softwares podem facilmente gerar deepfakes mesmo para iniciantes, como o aplicativo chinês Zao, DeepFace Lab, FaceApp (aplicativo de edição de fotos com tecnologia AI integrada), Face Swap e DeepNude, um aplicativo de software particularmente perigoso gera imagens falsas de nus femininos.

Um grande número de software deepfake pode ser encontrado na comunidade de desenvolvimento de software de código aberto GitHub. Alguns desses aplicativos são usados ​​para fins de puro entretenimento – e é por isso que a criação de deepfakes não é proibida – enquanto outros são mais propensos a serem usados ​​de forma maliciosa.

Muitos especialistas acreditam que, no futuro, à medida que a tecnologia se desenvolver, os deepfakes se tornarão mais sofisticados e poderão representar ameaças mais sérias ao público relacionadas à interferência eleitoral, tensões políticas e outras atividades criminosas.

Caso real e assustador de deepfakes

Em um exemplo recente, o prefeito de Berlim pensou que estava tendo uma reunião online com o ex-campeão de boxe e atual prefeito de Kyiv, Vitali Klitschko.

Mas quando “Klitschko” começou a dizer algumas coisas muito estranhas relacionadas à invasão da Ucrânia, o prefeito de Berlim ficou desconfiado, e quando a ligação foi feita, o gabinete do prefeito entrou em contato com o embaixador ucraniano em Berlim – descubra quem , quem eles dizem, não é o verdadeiro Klitschko.

Os impostores também aparentemente conversaram com outros prefeitos europeus, mas em cada caso eles pareciam estar conversando com um deepfake, um vídeo falso gerado por IA que parece que uma pessoa real está falando.

Isso mostra que os deepfakes estão se tornando mais avançados e rápidos. Instâncias de vídeos deepfake que circularam amplamente no passado geralmente mostram sinais de algo inautêntico, como edições não convincentes ou movimentos estranhos.

A coisa toda parece que foi feita puramente para causar problemas – mas o desenvolvimento da tecnologia deepfake significa que não é difícil imaginar que ela possa ser explorada por cibercriminosos, especialmente quando se trata de roubar dinheiro.

Como tal, este incidente também soou o alarme: deepfakes estão provocando um novo conjunto de ameaças – não apenas para o prefeito, mas para todos nós.

Embora o ransomware possa ganhar mais manchetes, o comprometimento de e-mail comercial (BEC – Business Email Compromise) é a forma mais cara de crime cibernético atualmente. O FBI estima que isso custe bilhões de dólares por ano às empresas.

A forma mais comum de ataque BEC envolve cibercriminosos aproveitando o e-mail, invadindo as contas dos chefes – ou falsificando sutilmente as deles – e pedindo aos funcionários que autorizem grandes transações financeiras, muitas vezes na casa das centenas de milhares de dólares.

O e-mail informa que o dinheiro precisa ser enviado com urgência, talvez como parte de uma transação secreta que não pode ser revelada a ninguém. Este é um truque clássico de engenharia social projetado para forçar as vítimas a transferir fundos rapidamente, sem confirmação de qualquer pessoa que possa revelar que era um pedido falso.

Quando houve suspeita, os cibercriminosos levaram o dinheiro, provavelmente fechando a conta bancária que usavam para transferir dinheiro – e fugiram.

Os ataques BEC são bem-sucedidos, mas muitas pessoas podem continuar suspeitando de um e-mail vindo de seu chefe e podem evitar ser vítimas conversando com alguém para confirmar que não é real.

No entanto, se os cibercriminosos puderem usar deepfakes para fazer uma solicitação, pode ser mais difícil para as vítimas recusarem a solicitação, acreditando que estão realmente falando com o chefe na câmera.

Muitas empresas listam publicamente seus conselhos e alta administração em seus sites. Esses executivos corporativos de alto nível costumam falar em eventos ou na mídia, para que você possa encontrar imagens deles falando.

Usando técnicas de aprendizado profundo baseadas em IA, os cibercriminosos podem usar essas informações públicas para criar deepfakes de executivos seniores, explorar vulnerabilidades de e-mail para solicitar chamadas de vídeo com funcionários e solicitar que eles façam transações. As vítimas são menos propensas a recusar o pedido se acharem que estão falando com seu CEO ou chefe.

Os golpistas usaram inteligência artificial para convencer os funcionários de que estão ao telefone com o chefe. Adicionar um elemento de vídeo dificultará a detecção de que eles estão realmente falando com um fraudador.

O FBI alertou que os cibercriminosos estão usando deepfakes para se candidatar a empregos de suporte remoto de TI que permitiriam o acesso a informações pessoais confidenciais de funcionários e clientes que poderiam ser roubadas e exploradas.

A agência também alertou que os hackers usarão deepfakes e outros conteúdos gerados por IA para conduzir operações com influência estrangeira – algo que os prefeitos, sem dúvida, estão mirando.

Embora os avanços na tecnologia signifiquem que está se tornando cada vez mais difícil distinguir conteúdo deepfake de vídeo real, o FBI emitiu recomendações sobre como identificar deepfakes, que incluem distorções de vídeo, movimentos estranhos da cabeça e do tronco e problemas. e movimentos labiais e qualquer áudio associado.

Mas os deepfakes podem facilmente se tornar um novo veículo para o crime cibernético, e interromper essa tendência será uma verdadeira luta. É perfeitamente possível que uma organização precise criar um novo conjunto de regras para validar as decisões tomadas em reuniões online. Também é um desafio à autenticidade do trabalho remoto – o que significa se você não consegue acreditar no que está vendo na tela?

Agora, quanto mais as empresas e seus funcionários estiverem cientes dos riscos potenciais representados por deepfakes maliciosos, mais fácil será evitar ataques – caso contrário, estaremos em apuros.

Leia também: O que é migração de dados em um ambiente de negócios?