Os seus contactos nas redes sociais são na realidade deepfakes? Chegou o momento de verificar a identidade nas redes sociais?

Alguns dos seus contactos nas redes sociais podem ter sido gerados com IA.

Não, a sério - um estudo recente do Stanford Internet Observatory descobriu que mais de 1000 perfis "deepfake" estão à espreita no LinkedIn... e isto é apenas o resultado de um estudo numa única rede social. O estudo identificou contas que foram criadas utilizando identidades totalmente fictícias com credenciais de educação e emprego falsas.

Este estudo destaca alguns aspectos preocupantes: 

A ameaça dos deepfakes e o perigo que representam para a sociedade, os governos e as empresas está a aumentar.

As redes sociais devem considerar urgentemente métodos para estabelecer a autenticidade do utilizador, a fim de proteger os utilizadores das redes sociais de ameaças em linha como as falsificações profundas (deepfakes).

As redes das redes sociais estão em risco de ameaças como os ataques sintéticos escaláveis, que podem ter consequências graves, como a perda de confiança.

Com o LinkedIn a tornar-se recentemente o o sítio web mais visado para ataques de phishingÉ altura de debater seriamente a forma como as redes sociais podem melhorar a segurança através de formas de verificação da identidade.

O que são deepfakes e como estão a ser utilizados nas redes sociais?

Os deepfakes são vídeos ou imagens sintéticas criadas com recurso a software alimentado por IA. São frequentemente utilizados para deturpar as pessoas, mostrando-as a dizer e a fazer coisas que não disseram ou fizeram. Os deepfakes têm sido utilizados para partidas e entretenimento, mas também para fins mais maliciosos. Preocupantemente, o número de vídeos deepfake publicados online está a mais do que a duplicar ano após ano.

No estudo do LinkedIn Stanford Internet Observatory, os deepfakes foram utilizados para fins comerciais. As contas deepfake enviaram mensagens de uma empresa legítima para apresentar o seu software a membros do LinkedIn que não suspeitavam - tornando as deepfakes numa ferramenta de vendas, essencialmente. Isto é benéfico para a empresa porque a criação de novas contas deepfake pode contornar o limite de mensagens do LinkedIn.

Embora isto possa parecer relativamente benigno, é apenas a superfície de um problema mais profundo. As contas das redes sociais que utilizam rostos gerados por computador cometeram actos mais graves.

Outros exemplos incluem:

• Deepfakes a promover desinformação política.
• Deepfakes a assediar activistas.
• Deepfakes enganar um diretor executivo em 243.000 dólares.

Parte do que torna as deepfakes uma ameaça tão perigosa e escalável é o facto de as pessoas não conseguirem detetar as deepfakes. É certo que pode haver indícios: o posicionamento e a cor dos olhos, inconsistências à volta da linha do cabelo e alguma estranheza visual. 

Dados de uma pesquisa recente da iProov descobriram que 57% dos entrevistados globais acreditam que podem dizer a diferença entre um vídeo real e um deepfake, o que representa um aumento em relação a 37% em 2019. Mas a verdade é que os deepfakes sofisticados podem ser verdadeiramente indistinguíveis ao olho humano. Para realmente verificar um deepfake, as tecnologias de aprendizado profundo e visão computacional são necessárias para analisar certas propriedades, como a forma como a luz reflete na pele real e na pele sintética.

As empresas de redes sociais têm o dever de proteger os seus utilizadores, anunciantes e funcionários contra estas ameaças crescentes e escaláveis. Felizmente, existe uma solução.

Como é que a verificação da identidade pode estabelecer a confiança em linha e nas redes sociais?

Já estabelecemos que as várias aplicações de deepfakes por maus actores podem ser graves. Mas o perigo real e a longo prazo dos deepfakes é a erosão da confiança em linha. As provas de vídeo tornar-se-ão menos fiáveis, levando a uma negação plausível: "Não fui eu", poderão dizer as pessoas, "é um deepfake!"

A ameaça do deepfake resume-se a uma questão: como é que se pode confiar que alguém é quem diz ser online?A resposta é a verificação da identidade digital. O meio de identificação mais seguro, conveniente e fiável é a biometria - em particular, verificação biométrica facial

A verificação da identidade digital já faz parte da nossa vida em linha. Os processos quotidianos já requerem verificação, como por exemplo:

• Abrir uma conta bancária
• Registo em programas de apoio do governo
• Verificar a identidade para viajar

Estes exemplos exigem que provemos quem somos para podermos realizar tarefas importantes em linha. No entanto, as redes sociais são uma esfera onde a verificação da identidade está ausente. Qualquer pessoa - ou qualquer coisa, no caso de deepfakes e bots - pode criar uma conta nas redes sociais e, aparentemente, fazer o que quiser, sem grande receio de que isso lhe seja atribuído.

Uma opção para as redes sociais é introduzir a responsabilização em linha através da verificação facial, garantindo que quem cria uma conta nas redes sociais é quem diz ser. Várias empresas do sector dos encontros em linha, como o Tinder, recorreram à verificação da identidade como previmos em 2020 e 2021. O seu aspeto dependerá da rede. A verificação da identidade pode ser opcional, concedendo ao utilizador um ícone ícone "identidade verificada", como no Tinder.

As vantagens da verificação da identidade nas redes sociais

• Redução do volume de spam, deepfakes e contas de bots nas redes sociais. 
• Melhor experiência, tranquilidade e segurança para os utilizadores - saberemos que estamos a interagir com um ser humano verificado.
• Ajuda a rastrear e prevenir abusos graves, fraudes e engenharia social nas redes sociais.
• Ajuda os utilizadores das redes sociais a sentirem-se mais seguros em linha.
• Defende a reputação das redes sociais, uma vez que estas são vistas como estando a tomar medidas para proteger os utilizadores em linha.

Como é que a vivacidade e a vivacidade dinâmica podem combater as falsificações profundas e ajudar o sector das redes sociais?

Os deepfakes são uma ameaça única e desafiante que requer uma solução única. É por isso que a tecnologia biométrica patenteada do iProov, Dynamic Liveness, foi concebida para oferecer uma proteção avançada contra deepfakes e outros ataques sintéticos ou digitais injectados.

Se as redes sociais optarem por implementar tecnologia para autenticar a identidade de um utilizador em linha e proteger contra falsificações profundas, terão de garantir que seleccionam a tecnologia certa. A deteção da vivacidade é uma parte importante do processo de verificação de identidade e nem toda a vivacidade é igual.

O Dynamic Liveness do iProov oferece todas as vantagens da deteção de vivacidade, proporcionando uma maior precisão sobre se um utilizador é a pessoa certa e uma pessoa real. Mas o Dynamic Liveness também verifica se o utilizador está a autenticar-se no momento, oferecendo proteção extra contra a utilização de ataques de injeção digital que utilizam deepfakes ou outros meios sintéticos.

A vantagem adicional da implementação do Dynamic Liveness é que pode ser utilizado para autenticação contínua nas redes sociais. Sempre que os utilizadores voltam a utilizar a aplicação, apresentam o seu rosto e provam que são a pessoa certa, uma pessoa real, e que estão a autenticar-se neste momento. Isto significa que mais ninguém pode aceder a essa conta, enviar mensagens ou efetuar qualquer atividade que depois insistem não ter realizado. 

iProov funciona em qualquer dispositivo com uma câmara virada para o utilizador - não requer hardware especializado para autenticação, proporcionando a máxima acessibilidade e inclusão para os utilizadores finais. Além disso, o GPA é fornecido com Centro de Operações de Segurança iProov (iSOC)-O iSOC utiliza tecnologia avançada de aprendizagem automática para monitorizar as operações diárias e proporcionar resiliência contra ataques emergentes sofisticados.

Estamos numa corrida ao armamento entre geradores de deepfake e detectores de deepfake, e empresas como o LinkedIn têm de dar prioridade às suas medidas de segurança e considerar como podem proteger os seus clientes de ataques. O resultado final é que a tecnologia Dynamic Liveness protege contra as falsificações profundas, garantindo que um utilizador online é uma pessoa real que se está a autenticar neste preciso momento.

Redes sociais, Deepfakes e verificação da identidade digital: Um resumo

• Os deepfakes estão a ser utilizados nas redes sociais, sendo os sítios das redes sociais alvo de phishing (quando as pessoas divulgam inadvertidamente informações, muitas vezes devido a manipulação).
• Enquanto algumas utilizações de deepfakes nas redes sociais são relativamente benignas, outras são perigosas: desinformação política, assédio, etc.
• As plataformas de redes sociais devem proteger os seus utilizadores. A verificação da identidade proporciona tranquilidade, segurança e proteção contra o assédio e a desinformação. 
• As redes sociais podem implementar a verificação da identidade de muitas formas. A verificação da identidade pode ser opcional, concedendo ao utilizador um ícone ícone "identidade verificada", como no Tinder.
• O Dynamic Liveness do iProov permite que as organizações verifiquem a identidade digital do utilizador, com proteção contra deepfakes e outros meios sintéticos. 
• Isto permitiria uma melhor experiência de utilização das redes sociais e uma maior confiança e segurança para os utilizadores. Além disso, a introdução da verificação da identidade digital pode ajudar a defender a reputação das marcas das redes sociais, uma vez que se considera que estão a tomar medidas para proteger os utilizadores em linha.

Saiba mais: A ameaça Deepfake

Reserve a sua demonstração iProov ou contacte-nos.