Seus contatos de mídia social são realmente deepfakes? É hora de verificação de identidade em mídia social?

Alguns dos seus contatos nas redes sociais podem ter sido gerados com IA.

Não, sério – um estudo recente do Stanford Internet Observatory descobriu que mais de 1000 perfis deepfake estão à espreita no LinkedIn… e essas são apenas as descobertas de um estudo em uma rede social. O estudo identificou contas que foram criadas usando identidades inteiramente fictícias com credenciais educacionais e de emprego falsas.

Este estudo destaca alguns tópicos preocupantes: 

A ameaça dos deepfakes e o perigo que eles representam para a sociedade, governos e empresas está crescendo.

As redes de mídia social devem considerar urgentemente métodos para estabelecer a autenticidade do usuário, a fim de protegê-los de ameaças online, como deepfakes.

As redes de mídia social correm o risco de ameaças como ataques sintéticos escaláveis, que podem ter consequências sérias – como perda de confiança.

Com o LinkedIn se tornando recentemente o maior site de relacionamento do mundo site mais visado para ataques de phishing, é agora o momento de uma discussão séria sobre como as redes sociais podem melhorar a segurança através de formas de verificação de identidade.

O que são deepfakes e como eles estão sendo usados nas mídias sociais?

Deepfakes são vídeos ou imagens sintéticas criadas usando software alimentado por IA. Eles são frequentemente usados para deturpar pessoas, mostrando-as dizendo e fazendo coisas que não disseram ou fizeram. Deepfakes têm sido usados para brincadeiras e entretenimento, mas também para propósitos mais maliciosos. Preocupantemente, o número de vídeos deepfake postados online está mais que dobrando ano a ano.

No estudo do LinkedIn Stanford Internet Observatory, deepfakes foram usados para fins comerciais. As contas deepfakes enviavam mensagens de uma empresa legítima para vender seu software a membros desavisados do LinkedIn – tornando os deepfakes uma ferramenta de vendas, essencialmente. Isso é benéfico para a empresa porque criar novas contas deepfakes pode contornar o limite de mensagens do LinkedIn.

Embora isso possa parecer relativamente benigno, é apenas a superfície de um problema mais profundo. Contas de mídia social usando rostos gerados por computador cometeram atos mais sérios.

Outros exemplos incluem:

• Deepfakes espalhando desinformação política .
• Deepfakes assediando ativistas .
• Deepfakes enganam CEO em US$ 243.000 .

Parte do que torna os deepfakes uma ameaça tão perigosa e escalável é que as pessoas não conseguem identificá-los. Certamente, pode haver indícios: o posicionamento e a cor dos olhos, inconsistências ao redor da linha do cabelo e alguma estranheza visual. 

Dados de pesquisa recentes da iProov descobriram que 57% dos entrevistados globais acreditam que conseguem diferenciar um vídeo real de um deepfake, o que é um aumento em relação aos 37% em 2019. Mas a verdade é que deepfakes sofisticados podem ser realmente indistinguíveis ao olho humano. Para realmente verificar um deepfake, tecnologias de aprendizado profundo e visão computacional são necessárias para analisar certas propriedades, como a forma como a luz reflete na pele real versus sintética.

As empresas de mídia social têm o dever de proteger seus usuários, anunciantes e funcionários dessas crescentes ameaças escaláveis. Felizmente, há uma solução.

Como a verificação de identidade pode estabelecer confiança online e nas mídias sociais?

Estabelecemos que as várias aplicações de deepfakes por atores mal-intencionados podem ser severas. Mas o perigo real e de longo prazo dos deepfakes é a erosão da confiança online. As evidências em vídeo se tornarão menos confiáveis, levando à negação plausível: "não fui eu", as pessoas podem dizer, "é um deepfake!"

A ameaça do deepfake se resume a uma pergunta: como você pode confiar que alguém é quem diz ser online? A resposta é a verificação de identidade digital. O meio de identificação mais seguro, conveniente e confiável é a biometria — particularmente, a verificação biométrica facial 

A verificação de identidade digital já faz parte de nossas vidas online. Processos cotidianos já exigem verificação, como:

• Configurando uma conta bancária
• Registrando-se em programas de apoio governamental
• Verificação de identidade para viagens

Esses exemplos exigem que provemos quem somos para concluir tarefas importantes online. No entanto, a mídia social é uma esfera onde a verificação de identidade está ausente. Qualquer pessoa — ou qualquer coisa, no caso de deepfakes e bots — pode criar uma conta na mídia social e, aparentemente, fazer o que quiser, sem muito medo de que isso seja rastreado até eles.  

Uma opção para redes de mídia social é introduzir a responsabilização online por meio da verificação facial, garantindo que alguém que cria uma conta de mídia social é quem diz ser. Várias empresas no setor de namoro online, como o Tinder, recorreram à verificação de identidade, como previmos em 2020 e 2021. A aparência disso dependerá da rede. A verificação de identidade pode ser opcional, concedendo ao usuário um ícone de “identidade verificada” como no Tinder.

Os benefícios da verificação de identidade para redes de mídia social

• Redução do volume de spam, deepfakes e contas de bots nas redes sociais. 
• Experiência aprimorada, garantia e segurança para os usuários: saberemos que estamos interagindo com um ser humano verificado.
• Ajuda a rastrear e prevenir abusos graves, fraudes e engenharia social em redes sociais.
• Ajuda os usuários de mídias sociais a se sentirem mais seguros online.
• Defende a reputação das redes de mídia social, pois elas são vistas como pessoas que tomam medidas para proteger os usuários online.

Como a Liveness e a Dynamic Liveness podem combater os deepfakes e ajudar o setor de mídia social?

Deepfakes são uma ameaça única e desafiadora que requer uma solução única. É por isso que a tecnologia biométrica patenteada da iProov, Dynamic Liveness, foi projetada para oferecer proteção avançada contra deepfakes e outros ataques sintéticos ou digitais injetados.

Se as redes de mídia social escolherem implementar tecnologia para autenticar a identidade de um usuário online e proteger contra deepfakes, elas precisarão garantir que selecionarão a tecnologia certa. A detecção de vivacidade é uma parte importante do processo de verificação de identidade e nem toda vivacidade é igual.

O Dynamic Liveness do iProov oferece todos os benefícios da detecção de liveness, fornecendo maior precisão sobre se um usuário é a pessoa certa e uma pessoa real. Mas o Dynamic Liveness também verifica se o usuário está autenticando agora, dando proteção extra contra o uso de ataques digitais injetados que usam deepfakes ou outras mídias sintéticas .

O benefício adicional de implementar o Dynamic Liveness é que ele pode ser usado para autenticação contínua em mídias sociais. Sempre que os usuários retornam para usar o aplicativo novamente, eles apresentam seu rosto e provam que são a pessoa certa, uma pessoa real, e que estão se autenticando agora. Isso significa que ninguém mais pode acessar essa conta, enviar mensagens ou realizar qualquer atividade que eles insistem que não fizeram. 

O i Proov funciona em qualquer dispositivo com uma câmera voltada para o usuário – não requer hardware especializado para autenticação, fornecendo máxima acessibilidade e inclusão para usuários finais. Além disso, o GPA vem com o gerenciamento ativo de ameaças alimentado pelo iProov Security Operations Centre (iSOC) . O iSOC usa tecnologia avançada de aprendizado de máquina para monitorar as operações do dia a dia e fornecer resiliência contra ataques emergentes sofisticados.

Estamos em uma corrida armamentista entre geradores de deepfake e detectores de deepfake, e empresas como o LinkedIn devem priorizar suas medidas de segurança e considerar como podem proteger seus clientes de ataques. O ponto principal é que a tecnologia Dynamic Liveness protege contra deepfakes ao garantir que um usuário online seja uma pessoa real, realmente autenticando agora.

Mídias sociais, deepfakes e verificação de identidade digital: um resumo

• Deepfakes estão sendo usados em redes sociais, com sites de mídia social sendo alvos de phishing (quando as pessoas divulgam informações inadvertidamente, geralmente por causa de manipulação).
• Embora alguns usos de deepfakes nas mídias sociais sejam relativamente benignos, outros são perigosos: desinformação política, assédio e assim por diante.
• As plataformas de mídia social devem proteger seus usuários. A verificação de identidade fornece garantia, segurança e proteção contra assédio e desinformação. 
• Há muitas maneiras pelas quais a verificação de identidade pode ser implementada por redes de mídia social. A verificação de identidade pode ser opcional, concedendo ao usuário um ícone de “identidade verificada” como no Tinder.
• O Dynamic Liveness do iProov permite que organizações verifiquem a identidade digital do usuário, com proteção contra deepfakes e outras mídias sintéticas. 
• Isso permitiria uma melhor experiência do usuário de mídia social, maior confiança, segurança e proteção para os usuários. Além disso, introduzir a verificação de identidade digital pode ajudar a defender a reputação das marcas de mídia social, pois elas são vistas tomando medidas para proteger os usuários online.

Saiba mais: A ameaça do Deepfake

Agende sua demonstração do iProov ou entre em contato conosco.