12 de fevereiro de 2025
A maioria dos consumidores não consegue identificar as falsificações geradas por IA;
Faça o teste de deteção de deepfake
Nova investigação do iProovlíder mundial no fornecimento de soluções de base científica para a verificação da identidade biométricarevela que a maioria das pessoas não consegue identificar deepfakes - os vídeos e imagens incrivelmente realistas gerados por IA, muitas vezes concebidos para se fazerem passar por pessoas. O estudo testou 2.000 consumidores do Reino Unido e dos EUA, expondo-os a uma série de conteúdos reais e deepfake. Os resultados são alarmantes: apenas 0,1% dos participantes conseguiram distinguir com exatidão os conteúdos reais dos falsos em todos os estímulos, incluindo imagens e vídeos.
Principais conclusões:
- A deteção de deepfake falha: Apenas 0,1% dos inquiridos identificaram corretamente todos os estímulos reais e deepfake (por exemplo, imagens e vídeos) num estudo em que os participantes foram preparados para procurar deepfakes. Em cenários do mundo real, onde as pessoas estão menos conscientes, a vulnerabilidade a deepfakes é provavelmente ainda maior.
- As gerações mais velhas são mais vulneráveis aos deepfakes: O estudo revelou que 30% das pessoas com idades entre os 55 e os 64 anos e 39% das pessoas com mais de 65 anos nunca tinham ouvido falar de deepfakes, o que revela uma lacuna de conhecimento significativa e uma maior suscetibilidade a esta ameaça emergente por parte deste grupo etário.
- Desafio do vídeo: Os vídeos deepfake revelaram-se mais difíceis de identificar do que as imagens deepfake, com 36% menos probabilidades de os participantes identificarem corretamente um vídeo sintético em comparação com uma imagem sintética. Esta vulnerabilidade suscita sérias preocupações quanto ao potencial de fraude baseada em vídeo, como a falsificação de identidade em videochamadas ou em cenários em que a verificação por vídeo é utilizada para verificação de identidade.
- As deepfakes estão em todo o lado, mas são mal compreendidas: Embora a preocupação com os deepfakes esteja a aumentar, muitos continuam a desconhecer a tecnologia. Um em cada cinco consumidores (22%) nunca tinha ouvido falar de deepfakes antes do estudo.
- O excesso de confiança é galopante: Apesar do seu fraco desempenho, as pessoas mantiveram-se excessivamente confiantes nas suas capacidades de deteção de deepfake em mais de 60%, independentemente de as suas respostas estarem corretas. Isto foi particularmente verdade nos jovens adultos (18-34). Esta falsa sensação de segurança é uma preocupação significativa.
- A confiança é afetada: As plataformas das redes sociais são vistas como um terreno fértil para as "deepfakes", sendo o Meta (49%) e o TikTok (47%) considerados os locais mais predominantes para as "deepfakes" serem encontradas em linha. Este facto, por sua vez, levou a uma redução da confiança na informação e nos meios de comunicação social em linha - 49% confiam menos nas redes sociais depois de terem conhecimento dos deepfakes. Apenas um em cada cinco denunciaria uma suspeita de deepfake às plataformas de redes sociais.
- Os deepfakes estão a alimentar uma preocupação e desconfiança generalizadas, especialmente entre os adultos mais velhos: Três em cada quatro pessoas (74%) preocupam-se com o impacto social dos deepfakes, sendo as "notícias falsas" e a desinformação a principal preocupação (68%). Este receio é particularmente acentuado entre as gerações mais velhas, com 82% das pessoas com mais de 55 anos a manifestarem-se preocupadas com a propagação de informações falsas.
- São necessários melhores mecanismos de sensibilização e de denúncia: Menos de um terço das pessoas (29%) não tomam qualquer medida quando se deparam com uma suspeita de deepfake, o que se deve muito provavelmente ao facto de 48% dizerem que não sabem como denunciar deepfakes, enquanto um quarto não se importa de ver uma suspeita de deepfake.
- A maioria dos consumidores não verifica ativamente a autenticidade das informações em linha, aumentando a sua vulnerabilidade às falsificações profundas: Apesar da ameaça crescente da desinformação, apenas um em cada quatro procura fontes de informação alternativas se suspeitar de um deepfake. Apenas 11% das pessoas analisam criticamente a fonte e o contexto da informação para determinar se se trata de um deepfake, o que significa que a grande maioria é altamente suscetível ao engano e à propagação de narrativas falsas.
O Professor Edgar Whitley, especialista em identidade digital da London School of Economics and Political Science, acrescenta: "Os especialistas em segurança têm vindo a alertar para as ameaças que os deepfakes representam para os indivíduos e para as organizações há já algum tempo. Este estudo mostra que as organizações já não podem confiar no julgamento humano para detetar deepfakes e devem procurar meios alternativos de autenticar os utilizadores dos seus sistemas e serviços."
"Apenas 0,1% das pessoas conseguiram identificar com exatidão os deepfakes, o que sublinha a vulnerabilidade das organizações e dos consumidores à ameaça de fraude de identidade na era dos deepfakes", afirma Andrew Bud, fundador e CEO da iProov. "E mesmo quando as pessoas suspeitam de um deepfake, a nossa pesquisa diz-nos que a grande maioria das pessoas não toma qualquer ação. Os criminosos estão a explorar a incapacidade dos consumidores para distinguir as imagens reais das falsas, colocando em risco as nossas informações pessoais e a nossa segurança financeira. Cabe às empresas de tecnologia proteger os seus clientes através da implementação de medidas de segurança robustas. A utilização da biometria facial com vivacidade proporciona um fator de autenticação fiável e dá prioridade à segurança e ao controlo individual, garantindo que as organizações e os utilizadores podem acompanhar o ritmo e permanecer protegidos contra estas ameaças em evolução."
A crescente ameaça das falsificações profundas (Deepfakes)
Os deepfakes representam uma ameaça avassaladora no panorama digital atual e evoluíram a um ritmo alarmante nos últimos 12 meses. O Relatório de Inteligência sobre Ameaças 2024 da iProov destacou um aumento de 704% apenas nas trocas de rosto (um tipo de deepfake). A sua capacidade de se fazer passar por indivíduos de forma convincente torna-os uma ferramenta poderosa para os cibercriminosos obterem acesso não autorizado a contas e dados sensíveis. As deepfakes também podem ser utilizadas para criar identidades sintéticas para fins fraudulentos, como abrir contas falsas ou pedir empréstimos. Isto representa um desafio significativo para a capacidade dos seres humanos de discernir a verdade da falsidade e tem implicações de grande alcance para a segurança, a confiança e a disseminação de desinformação.
O que pode ser feito?
Com as falsificações profundas a tornarem-se cada vez mais sofisticadas, os seres humanos, por si só, já não conseguem distinguir de forma fiável o verdadeiro do falso e, em vez disso, precisam de confiar na tecnologia para as detetar. Para combater a ameaça crescente das falsificações profundas, as organizações devem procurar adotar soluções que utilizem tecnologia biométrica avançada com deteção de vivacidade, que verifica se um indivíduo é a pessoa certa, uma pessoa real, e está a autenticar-se neste momento. Estas soluções devem incluir a deteção contínua de ameaças e a melhoria contínua das medidas de segurança para se manterem à frente da evolução das técnicas de deepfake. Deve também haver uma maior colaboração entre fornecedores de tecnologia, plataformas e decisores políticos para desenvolver soluções que atenuem os riscos colocados pelas falsificações profundas.
Fazer o teste de deteção de Deepfake
Acha que é imune ao engano do deepfake? O iProov criou um questionário online que o desafia a distinguir o real do falso. Faça o teste e veja a sua pontuação.
