O Surgimento dos Crimes Deepfake: Percepções de Especialistas e Medidas de Segurança (2024)

Na semana passada, o Federal Bureau of Investigation (FBI) emitiu um anúncio de serviço público sobre o aumento de conteúdo explícito deepfake e como ele está sendo usado para crimes como extorsão, chantagem e assédio. Em termos mais simples, um deepfake é um material multimídia sintético tentando imitar um original. Pode ser uma foto, vídeo ou clipe de áudio gerado por IA.

O nome “deepfake” vem da tecnologia inerente usada na criação de tais mídias — deep learning — que envolve treinar um modelo de IA usando material original e então modificá-lo para gerar os resultados desejados. Não é exatamente uma invenção nova, mas com a IA generativa explodindo em popularidade — e acesso — os crimes de deepfake estão aumentando.

Tamanha é a popularidade deles que até mesmo a campanha do candidato presidencial republicano Ron DeSantis usou imagens deepfake do rival Donald Trump para difamá-lo. Deepfakes também são uma das razões pelas quais os apelos para regulamentar a IA estão sendo levantados em todos os lugares. De acordo com o FBI, o conteúdo para gerar deepfakes é geralmente retirado de postagens de mídia social e clipes de videochamadas antes de ser modificado em materiais sexualmente explícitos para extorsão e intimidação.

O que os especialistas dizem sobre deepfakes

Então, qual é a solução? Infelizmente, não há solução. Pelo menos, não sem fazer um acordo — um que fundamentalmente vira todo o significado de “mídia social” de cabeça para baixo.

“Infelizmente, a única maneira de ter certeza de que nenhuma de suas fotos ou vídeos serão usados ​​para criar falsificações profundas é parar de postar fotos suas online, mas isso tiraria muita diversão dos usuários da internet”, diz Adrianus Warmenhoven, consultor de segurança cibernética da Norte.

“À medida que novas e melhores práticas de segurança surgem, os atores maliciosos encontrarão uma maneira de causar danos. É um jogo de recuperação e às vezes é decepcionante”, diz Parteek Saran, um ex-Googler e criador de uma ferramenta de gerenciamento de senhas de última geração chamada Um. Ele ainda sugere que se deve tentar adotar uma “filosofia de confiança zero” quando se trata de postar conteúdo em mídias sociais e enfatiza a comunicação eficaz com conhecidos para evitar golpes de deepfake.

“Embora a IA possa ajudar a abordar questões de segurança digital, não existe uma rede de segurança infalível”, afirma Yaron Litwin, especialista em segurança digital e CMO da Dossel. O aplicativo homônimo da empresa tem como objetivo manter as crianças seguras contra crimes sexuais online e também oferece um conjunto diversificado de controles parentais. Litwin acrescenta que você deve evitar postar imagens íntimas ou comprometedoras, ao mesmo tempo em que reduz a frequência de postagem até mesmo de imagens normais.

Como você pode se manter seguro

Deepfakes são aterrorizantes, e é difícil imaginar o trauma que eles podem infligir a uma pessoa e seus familiares. Mas há algumas maneiras pelas quais os usuários podem evitar cair na armadilha, ou pelo menos ficar longe dela em grande parte.

Para entender quais etapas os usuários médios de smartphones com habilidades digitais típicas podem seguir, entrei em contato com Andrew Gardner, vice-presidente de pesquisa e inovação da Geração Digitaluma empresa de software que oferece ferramentas de segurança confiáveis ​​como Norton, Avast e Avira, entre outras.

Gardner diz que os protocolos de segurança começam no nível fundamental. Os usuários devem começar tornando seus perfis privados — ou pelo menos alterar as configurações de visibilidade das postagens para que apenas as pessoas que eles seguem mutuamente possam ver e interagir com suas postagens. Os controles parentais, que agora estão disponíveis para quase todas as principais plataformas de mídia social, devem ser habilitados diligentemente para que os responsáveis ​​possam ficar de olho em quaisquer interações suspeitas.

É um conselho geral que se deve aceitar apenas solicitações de pessoas que se conhece, mas dar um passo a mais pode fazer toda a diferença. “Se você está fazendo networking, verifique as postagens e atividades recentes dos convidados para avaliar o quão reais eles são”, diz Gardner, acrescentando que se deve ter cuidado com “contas com poucos amigos ou amigos em comum”. Outro conselho crucial que o executivo da Gen Digital tem a dar é verificar e restringir logins de mídia social.

Os usuários costumam visitar serviços online e, para evitar o incômodo de criar uma conta, optam pela opção de login de mídia social. “Isso dá aos aplicativos acesso a informações pessoais e, em algumas situações, esses aplicativos vendem essas informações a terceiros”, diz ele. O escândalo da Cambridge Analytica envolvendo o Facebook é um ótimo exemplo. Deve-se verificar periodicamente quais aplicativos estão conectados às suas contas de mídia social e, a menos que seja necessário, seu acesso deve ser revogado.

Deepfakes são crimes sofisticados com tecnologia de IA, mas Gardner sugere que os usuários ainda devem seguir algumas diretrizes básicas de segurança — como habilitar a autenticação de dois fatores, usar senhas fortes, habilitar chaves de acesso biométricas e evitar quaisquer links suspeitos ou desconhecidos.

Mídias sociais feitas de forma segura e responsável

Litwin, da Canopy, é da opinião de que quanto mais você compartilha, mais fácil se torna criar deepfakes convincentes. Não há escassez de modelos obscuros de geração de imagens de IA sem quaisquer restrições à criação de material explícito. Essas ferramentas dependem de entradas de imagem para treinar o modelo. Quanto mais dados de treinamento ele é alimentado, mais precisos e realistas os deepfakes se tornam.

É a tática padrão implementada por geradores de imagens de IA convencionais como o MidJourney. Se o seu feed social estiver aberto e tiver uma quantidade ampla de fotos e vídeos, não há como impedir que um agente mal-intencionado os raspe para criar deepfakes comprometedores. Mas se você está entre as pessoas que veem valor nas mídias sociais como um lugar para preservar suas memórias mais queridas, existem algumas medidas que você pode tomar deve pegar.

“Tenha cuidado com as informações pessoais que você compartilha on-line, ajuste as configurações de privacidade em suas contas, habilite a autenticação de dois fatores e revise cuidadosamente as imagens para detectar quaisquer imperfeições”, observa Boyd Clewisespecialista em segurança cibernética do Conselho de Segurança da Forbes e autor de “Through The Firewall: The Alchemy Of Turning Crisis Into Opportunity”.

Mas como identificar de forma confiável um perfil de mídia social que provavelmente tem um mau ator por trás dele envolvido em atos obscuros como criar e disseminar deepfakes? “Se material de vídeo ou áudio for compartilhado de perfis suspeitos, e as contas não contiverem nenhuma informação pessoal ou fotos, é provável que o perfil seja falso”, sugere Tomas Samulis, um arquiteto de segurança da informação na Baltic Amadeus. Ele sugere que tais perfis sem informações pessoalmente identificáveis ​​são criados especificamente para espalhar falsificações e outras informações controversas.”

O que fazer se você for vítima de deepfake

Mas há apenas uma certa precaução que um usuário médio de smartphone pode tomar. Até mesmo os usuários mais experientes em tecnologia digital se encontram no lado receptor de crimes cibernéticos, mesmo depois de usar todas as ferramentas padrão, como autenticação de dois fatores, perfis privados e firewalls biométricos.

Se, apesar de tomar todas as precauções, você ainda se encontrar no centro de um crime deepfake, procure aconselhamento especializado e ajuda das autoridades em vez de resolver o problema por conta própria. Especialistas observam que ficar sentado em cima desse assédio ou tentar lidar com ele discretamente por conta própria geralmente piora a situação das vítimas.

“Se você descobrir que alguém está fazendo uso indevido do seu conteúdo, procure aconselhamento familiarizado com a lei de direitos autorais para ajudá-lo a remover o conteúdo o mais rápido possível”, diz Rob Scott, membro da Ordem dos Advogados de Dallas e especialista jurídico licenciado em áreas como risco de segurança cibernética e privacidade de dados.

Consultar um especialista jurídico é crucial porque ele pode orientá-lo sobre seus direitos digitais. Litwin, da Canopy, também sugere preservar todas as evidências, aconselhando as vítimas a “documentar qualquer evidência de tentativas de extorsão, como mensagens, e-mails ou qualquer forma de comunicação relacionada à extorsão”.

Outro conselho crucial é que a vítima deve cessar imediatamente todo contato com um criminoso porque o criminoso pode manipulá-la ou assediá-la ainda mais com demandas de extorsão mais sérias. Ao mesmo tempo, os usuários devem entrar em contato com um especialista em segurança cibernética ou discar para uma das linhas de ajuda do governo contra crimes cibernéticos para tomar as medidas certas a tempo.

Como identificar deepfakes

Com os mecanismos de IA ficando cada vez mais sofisticados, o tipo de deepfakes que eles produzem está se tornando assustadoramente real e difícil de detectar. No entanto, ainda há alguns marcadores aos quais os usuários podem prestar atenção para detectar material comprometedor sinteticamente alterado ou gerado por IA.

A seguir está uma compilação de identificadores deepfake que os especialistas têm a oferecer:

• Fique atento a movimentos oculares não naturais. Se os olhos de uma pessoa não parecem estar piscando, o movimento dos olhos está errado ou as expressões faciais não parecem estar em sincronia com as palavras que ela está falando, é mais provável que seja um clipe deepfake. A falta de emoções, ou emoções incoerentes, é um marcador revelador de que a mídia foi digitalmente transformada.
• “A tecnologia deepfake normalmente foca em características faciais”, diz Gardner. “Se o formato do corpo da pessoa não parece natural, ou se seus movimentos são bruscos e desconexos, o vídeo provavelmente é um deepfake.”
• Outro marcador confiável é o fundo, que pode parecer anormalmente desfocado ou mostrar artefatos visuais estranhos. Outra maneira fácil de detectar deepfakes é procurar por descoloração anormal ou incompatibilidade de cores séria, especialmente com relação ao rosto e à sombra dos itens ao redor.
• Se você se deparar com uma foto em que uma pessoa está ostentando um “cabelo perfeito” e não consegue identificar nenhum elemento individual, como alguns fios de cabelo rebeldes ou frizz, fique cauteloso. Modelos de IA também são conhecidos por terem dificuldades com dentes. Fique atento a dentes que sejam anormalmente perfeitos, ou aqueles que não tenham contornos para dentes individuais, ou talvez mais dentes do que a dentadura humana usual.
• Partes do corpo desalinhadas, bordas borradas, alguns dedos extras ou a menos, membros estranhamente contorcidos, movimento fora de sincronia de partes do corpo e uma voz sem pausas e quebras emocionais são outros sinais que você deve observar de perto. “Voz falsa ou gravações de áudio geralmente têm ruído de fundo, vozes que soam robóticas e pronúncias estranhas”, explica Samulis.

Conforme explicado acima, não há uma rede de segurança infalível contra deepfakes. Mas se você for cuidadoso sobre onde compartilha fotos, quem pode vê-las e até onde vai seu acesso às mídias sociais, você pode permanecer em uma zona relativamente segura.

Também é preciso prestar atenção em quem são seus amigos online e também verificar as atividades de novos convites antes de adicioná-los ao seu círculo de amigos nas redes sociais. No que diz respeito a deepfakes, isso é um pouco complicado. Mas se você permanecer vigilante e reservar um tempo para avaliar inconsistências em uma foto ou vídeo suspeito, deepfakes podem ser detectados com um grau bastante alto de precisão.

No final das contas, tudo se resume a cultivar hábitos higiênicos online e permanecer vigilante em um espaço online cada vez mais propenso a falsificações.