Você provavelmente já viu um vídeo deepfake, mesmo que não tenha percebido. Os Tom Cruises gerados por computador têm aparecido em toda a Web nos últimos anos. Mark Zuckerberg é outro alvo comum, com vídeos circulando em que ele diz coisas que não disse de fato. Houve também o infame deepfake da Rainha, feito pelo Channel 4, que transmitiu uma mensagem de Natal alternativa no Reino Unido.
As deepfakes não são um problema novo, mas as ferramentas necessárias para criá-las estão se tornando mais prontamente disponíveis e mais avançadas. Em última análise, as deepfakes são perigosas porque dificultam a confiança no que vemos e ouvimos on-line. O potencial de uso indevido e a ameaça aos consumidores, governos e empresas não podem ser exagerados.
Apesar da crescente ameaça das deepfakes para a sociedade, muitas pessoas ainda não sabem o que é uma deepfake. Para entender melhor o cenário de deepfake, a iProov pesquisou 16.000 pessoas em oito países em 2022 (EUA, Canadá, México, Alemanha, Itália, Espanha, Reino Unido e Austrália), fazendo-lhes várias perguntas sobre deepfakes.
Neste artigo, compartilharemos nossos novos dados, compararemos com nossos resultados de três anos atrás e discutiremos soluções para a crescente ameaça.
Quantas pessoas sabem o que é um Deepfake?
Perguntamos: "Você sabe o que é um vídeo deepfake?"
- Globalmente, 71% dos entrevistados dizem que não sabem o que é um deepfake. Pouco menos de um terço dos consumidores globais afirmam estar cientes das deepfakes.
- O México e o Reino Unido estão mais familiarizados com as deepfakes: 40% dos entrevistados mexicanos e 32% dos entrevistados britânicos dizem saber o que é um deepfake.
- A Espanha e a Alemanha são os países menos instruídos sobre deepfakes: 75% dos entrevistados na Espanha e na Alemanha responderam "Não".
Resumo:
A porcentagem de pessoas que sabem o que é um deepfake mais do que dobrou desde nossa última pesquisa - em 2019, apenas 13% disseram que sabiam o que era um deepfake, em comparação com 29% em 2022. Por um lado, é positivo que a conscientização sobre a ameaça do deepfake esteja crescendo. Por outro lado, é preocupante que apenas 29% das pessoas estejam cientes das deepfakes em 2022. As deepfakes têm um potencial significativo de uso indevido e fraude e, se as pessoas não souberem o que são, é menos provável que estejam preparadas para identificar quando estão sendo falsificadas.
O que são deepfakes? Deepfakes são vídeos ou imagens criados usando um software de aprendizagem profunda com tecnologia de IA para mostrar pessoas dizendo e fazendo coisas que não foram ditas ou feitas por elas. Os deepfakes estão sendo cada vez mais usados para cometer crimes cibernéticos - isso pode ser para ganho financeiro, perturbação social, fraude eleitoral ou outros fins nefastos. Os deepfakes são usados para cometer fraudes e acessar serviços fingindo ser outra pessoa, ou para obter acesso a serviços que não poderiam ser acessados usando sua verdadeira identidade. Eles podem ser usados em fraudes de identidade sintética, fraudes de novas contas e fraudes de aquisição de contas, entre outras. Os deepfakes podem ser trocas de rostos, reencenações ou Redes Adversárias Generativas (GANs) e podem ser usados em vários tipos de ameaças, como ataques de apresentação ou injeção digital.
Por fim, a conscientização sobre deepfakes e a compreensão das soluções disponíveis devem ser expandidas e discutidas mais amplamente.
Quantas pessoas acham que podem identificar um Deepfake?
Perguntamos: "Você acha que seria capaz de distinguir entre um vídeo real e um deepfake?"
- 57% dos entrevistados globais dizem que acham que poderiam identificar um deepfake. 43% admitem que não conseguiriam distinguir entre um vídeo real e um deepfake.
- Os entrevistados do México são os mais confiantes - 82% acreditam que poderiam dizer a diferença entre um deepfake e um vídeo real.
- Enquanto isso, os entrevistados da Alemanha estão menos confiantes: 57% dizem que não seriam capazes de perceber a diferença.
Resumo:
57% dos entrevistados globais acreditam que poderiam dizer a diferença entre um vídeo real e um deepfake, o que representa um aumento em relação aos 37% de 2019. Isso é preocupante, pois a verdade é que deepfakes sofisticados podem ser indistinguíveis ao olho humano. Para verificar uma deepfake, são necessárias tecnologias de aprendizagem profunda e visão computacional para analisar determinadas propriedades, como a forma como a luz reflete na pele real em comparação com imagens ou pele sintética.
O problema real no momento são os deepfakes de alta qualidade, como o infame Tom Cruise, por exemplo, que exige ferramentas sofisticadas, conhecimento e tempo para ser criado.
Se confiarmos demais em nossa capacidade de identificar deepfakes, corremos mais risco de sermos enganados por um.
O que assusta as pessoas com relação aos deepfakes?
Perguntamos aos entrevistados: "Qual das seguintes opções mais o preocupa sobre como as deepfakes podem ser usadas contra você? Por favor, selecione todos os que se aplicam".
- Globalmente, o medo mais popular em relação às deepfakes é que elas possam ser usadas para "roubo de minha identidade para acessar meu banco e outras contas". 50% dos entrevistados selecionaram essa opção.
- O segundo lugar foi ocupado por "ser levado a acreditar em algo que não é verdade" e "roubo de minha identidade para abrir cartões de crédito ou contas bancárias em meu nome", com 48% selecionando essas opções.
- Apenas 13% dos entrevistados globais não estão preocupados com deepfakes.
Resumo:
As pessoas têm uma grande variedade de medos em relação às deepfakes. Os temas mais populares estão centrados no roubo e na desconfiança. E esses temores não são descabidos: as deepfakes foram usadas na vida real para promover a desinformação política, assediar ativistas, enganar um CEO em US$ 243.000 e criar contas falsas nas mídias sociais para fraudar usuários genuínos.
Como consumidores, continuamos a realizar cada vez mais atividades digitalmente, o que significa que precisamos ser capazes de confirmar nossa identidade on-line. No entanto, a tecnologia para criar deepfakes está ficando cada vez melhor, mais barata e mais prontamente disponível. É por isso que a proteção contra deepfake se tornará cada vez mais crucial à medida que a ameaça de deepfake crescer e mais pessoas se conscientizarem dos perigos.
O que as pessoas pensam sobre deepfakes?
Em seguida, perguntamos aos entrevistados: "Com qual das seguintes afirmações você mais concorda sobre deepfakes? Por favor, selecione todas as que se aplicam".
- As pessoas estão mais preocupadas com o fato de que os deepfakes "podem dificultar a confiança no que vemos on-line".
- O segundo colocado foi que "deepfakes são perigosos" - 62% dos entrevistados globais concordam.
- 58% também concordam que os deepfakes são uma "preocupação crescente".
- Apenas 9% dos entrevistados globais acreditam que os deepfakes "não são precisos o suficiente para enganar alguém".
- Apenas 2% dos entrevistados globais não estão preocupados com nenhum aspecto das deepfakes.
Resumo:
No geral, isso é muito semelhante aos dados que coletamos em 2019. Em 2019, 58% concordaram que as deepfakes eram uma preocupação crescente - exatamente o mesmo que em 2022. O que isso mostra é que os consumidores estão preocupados, com razão, com a erosão da confiança on-line. Esse é o difícil problema que o iProov se esforça para resolver - nossa tecnologia patenteada de autenticação biométrica pode garantir a presença genuína de um indivíduo real e verificável, confirmando que ele é quem diz ser e que não é um deepfake ou outro ataque de apresentação/injeção digital.
Pense na coisa que é menos provável que você diga ou faça. Agora imagine que seus amigos, familiares ou empregador vejam um vídeo convincente de você dizendo ou fazendo isso. É fácil ver o potencial de uso indevido malicioso. É claro que nem todos os deepfakes são maliciosos ou perigosos. Muitos têm sido usados para compartilhamento social e entretenimento. Mas elas também foram empregadas em hoaxes, pornografia de vingança e, cada vez mais, em fraudes e falsificação de identidade.
A Recorded Future informou que um criminoso está disposto a pagar cerca de US$ 16.000 pela criação de um deepfake de alta qualidade. As deepfakes podem então facilitar ataques avançados de engenharia social com um lucro significativo. O problema continuará a se agravar à medida que os recursos de deepfake se tornarem mais acessíveis.
As pessoas têm mais probabilidade de usar serviços que se defendem contra deepfakes?
Perguntamos aos entrevistados da pesquisa: "Você estaria mais propenso a usar um serviço on-line que tivesse medidas para evitar o uso de deepfakes?"
- Uma maioria esmagadora declarou que está mais propensa a usar serviços on-line que se defendem contra deepfakes - 80% dos entrevistados globais concordam.
- Os entrevistados da Espanha são os que mais valorizam a proteção contra deepfake: 87% responderam "Sim". Por outro lado, o Canadá é o país menos convencido pelas medidas de prevenção de deepfake, mas, mesmo assim, 75% responderam "Sim".
Resumo:
As pessoas valorizam a proteção contra deepfake um pouco mais em 2022 do que em 2019; no geral, 75% afirmaram que usariam um serviço on-line que pudesse evitar deepfakes, contra 80% dos entrevistados globais em 2022.
Isso demonstra que os consumidores querem ter certeza de que estão sendo protegidos contra ataques de deepfake. Ao implementar a tecnologia Genuine Presence Assurance® do iProov, governos e empresas podem fornecer verificação e autenticação on-line que protegem contra mídia sintética, como deepfakes.
Como a autenticação biométrica e a detecção de vivacidade podem se defender contra falsificações profundas?
A autenticação biométrica é usada para provar que uma pessoa é quem ela diz ser em uma interação on-line, como entrar em uma conta bancária ou inscrever-se em um novo serviço on-line, como um esquema governamental.
Os criminosos cibernéticos são experientes e tentam um número cada vez maior de métodos diferentes para burlar a segurança da autenticação biométrica. Eles podem usar fotos ou vídeos pré-gravados e, em seguida, colocá-los na câmera de um dispositivo na forma de um ataque de apresentação, ou até mesmo imagens sintéticas que são injetadas digitalmente no fluxo de dados.
Os pesquisadores esperam que os criminosos aumentem o uso de deepfakes nos próximos anos. Isso mostra que é vital entender a ameaça do deepfake e nos prepararmos - Europol.
É por isso que a detecção de vivacidade é fundamental. Essencialmente, a detecção de vivacidade garante que um usuário on-line seja uma pessoa real. Ela usa várias tecnologias para diferenciar entre humanos genuínos e artefatos falsos. Sem a detecção de vivacidade, um criminoso seria capaz de falsificar um sistema com fotografias, vídeos ou máscaras falsas.
No entanto, nem toda detecção de atividade é criada da mesma forma. A maioria das tecnologias de detecção de vivacidade pode detectar um ataque de apresentação - o uso de artefatos físicos, como máscaras ou sessões gravadas, reproduzidas na câmera do dispositivo para tentar falsificar o sistema, e também pode incluir um vídeo deepfake realizado na frente de uma câmera.
No entanto, outros provedores de vivacidade não conseguem detectar um ataque de injeção digital, que ignora a câmera do dispositivo (móvel ou desktop) para injetar imagens sintéticas no fluxo de dados. Somente o Genuine Presence Assurance da iProov inclui tecnologia de detecção de vivacidade que oferece o mais alto nível de garantia - o GPA pode detectar tanto deepfakes apresentados quanto deepfakes usados em ataques de injeção digital.
A tecnologia Flashmark™ patenteada pela iProov usa iluminação controlada para criar uma biometria única que não pode ser recriada ou reutilizada, proporcionando maior anti-spoofing em uma série de ataques; não apenas ataques de apresentação padrão, mas também ataques de injeção altamente escalonáveis usando deepfakes e replays sofisticados, oferecendo um nível de garantia líder do setor de que a pessoa é real e está se autenticando no momento.
Você pode ler mais sobre o Genuine Presence Assurance aqui e sobre a inovadora tecnologia Flashmark que o impulsiona aqui.
Quer saber mais sobre Deepfakes?
- Leia o relatório Deepfakes do iProov : A ameaça aos serviços financeiros
- Leia nosso relatório Work From Clone: How Criminals Use Deepfakes to Apply For Remote Jobs
- Leia sobre Deepfakes of the Dead: como eles são usados para fraudes em serviços financeiros?
- Leia sobre Deepfakes nas mídias sociais
Estatísticas do Deepfake: Resumo
- Os dados da pesquisa com consumidores do iProov mostram que a conscientização sobre deepfakes está crescendo: em 2019, apenas 13% dos consumidores disseram saber o que é um deepfake, em comparação com 29% em 2022. No entanto, como as deepfakes representam uma ameaça ao cenário de confiança on-line e, potencialmente, à segurança nacional, a conscientização precisa ser maior.
- As estatísticas de deepfake do iProov também mostram que 57% das pessoas acreditam que podem identificar um deepfake. Mas, a menos que a deepfake seja mal construída, é provável que isso não seja verdade. Para verificar uma deepfake, as tecnologias de aprendizagem profunda e visão computacional são necessárias para analisar determinadas propriedades, como a forma como a luz reflete na pele real em comparação com a pele sintética ou imagens.
- Os dados do iProov também mostram que as pessoas estão mais propensas a usar serviços que tomam medidas contra deepfakes - 80% dos entrevistados globais concordam. Esse é um claro alerta para os provedores de serviços on-line: para manter ou ganhar a confiança do usuário, é preciso implementar uma tecnologia que possa se defender contra deepfakes.
- Os deepfakes são uma ameaça única e desafiadora que exige uma solução única. É por isso que a tecnologia biométrica patenteada da iProov, Genuine Presence Assurance, foi projetada para oferecer proteção avançada contra deepfakes e outros ataques avançados.
- Somente a iProov Genuine Presence Assurance pode ser confiável para fornecer o nível de garantia necessário para a defesa contra deepfakes.
Descubra como a iProov protege contra deepfakes - agende sua demonstração do iProov ou entre em contato conosco.
