Alguns de seus contatos de mídia social podem ter sido gerados com IA.
Não, realmente - um estudo recente do Stanford Internet Observatory descobriu que mais de 1.000 perfis deepfake estão à espreita no LinkedIn... e essas são apenas as descobertas de um estudo em uma rede social. O estudo identificou contas que foram criadas usando identidades totalmente fictícias com credenciais falsas de educação e emprego.
Este estudo destaca alguns tópicos de preocupação:
O que são deepfakes e como eles estão sendo usados nas mídias sociais?
Deepfakes são vídeos ou imagens sintéticos criados com software alimentado por IA. Eles são frequentemente usados para deturpar as pessoas, mostrando-as dizendo e fazendo coisas que não disseram ou fizeram. Os deepfakes têm sido usados para brincadeiras e entretenimento, mas também para fins mais maliciosos. Preocupantemente, o número de vídeos deepfake publicados on-line está mais do que dobrando ano a ano.
No estudo do LinkedIn Stanford Internet Observatory, as deepfakes foram usadas para fins comerciais. As contas deepfake enviaram mensagens de uma empresa legítima para apresentar seu software a membros desavisados do LinkedIn - tornando as deepfakes uma ferramenta de vendas, essencialmente. Isso é benéfico para a empresa porque a criação de novas contas deepfake pode contornar o limite de mensagens do LinkedIn.
Embora isso possa parecer relativamente benigno, é apenas a superfície de um problema mais profundo. Contas de mídia social que usam rostos gerados por computador cometeram atos mais graves.
Outros exemplos incluem:
- Deepfakes pressionando desinformação política.
- Deepfakes assediando ativistas.
- Deepfakes Fraude de US$ 243.000 em um CEO.
Parte do que torna as falsificações profundas uma ameaça tão perigosa e escalonável é o fato de as pessoas não conseguirem identificar as falsificações profundas. Certamente, pode haver indícios: o posicionamento e a cor dos olhos, inconsistências ao redor da linha do cabelo e alguma estranheza visual.
Dados de uma pesquisa recente da iProov revelaram que 57% dos entrevistados globais acreditam que poderiam dizer a diferença entre um vídeo real e um deepfake, o que representa um aumento em relação aos 37% registrados em 2019. Mas a verdade é que os deepfakes sofisticados podem ser realmente indistinguíveis para o olho humano. Para realmente verificar uma deepfake, as tecnologias de aprendizagem profunda e visão computacional são necessárias para analisar determinadas propriedades, como a forma como a luz reflete na pele real e na pele sintética.
As empresas de mídia social têm o dever de proteger seus usuários, anunciantes e funcionários contra essas crescentes ameaças em escala. Felizmente, há uma solução.
Como a verificação de identidade pode estabelecer confiança on-line e nas mídias sociais?
Já estabelecemos que as várias aplicações de deepfakes por agentes mal-intencionados podem ser graves. Mas o perigo real e de longo prazo das deepfakes é a erosão da confiança on-line. As evidências de vídeo se tornarão menos confiáveis, levando a uma negação plausível: "Não fui eu", as pessoas podem dizer, "é um deepfake!"
A ameaça do deepfake se resume a uma pergunta: como você pode confiar que alguém é quem diz ser on-line?A resposta é a verificação da identidade digital. O meio de identificação mais seguro, conveniente e confiável é a biometria, principalmente, verificação biométrica facial
A verificação de identidade digital já faz parte de nossa vida on-line. Os processos cotidianos já exigem verificação, como, por exemplo:
- Criação de uma conta bancária
- Registro em programas de apoio do governo
- Verificação de identidade para viagens
Esses exemplos exigem que provemos quem somos para concluir tarefas importantes on-line. No entanto, a mídia social é uma esfera em que a verificação de identidade está ausente. Qualquer pessoa - ou qualquer coisa, no caso de deepfakes e bots - pode criar uma conta nas mídias sociais e aparentemente fazer o que quiser, sem muito medo de ser rastreado até ela.
Uma opção para as redes de mídia social é introduzir a responsabilidade on-line por meio da verificação facial, garantindo que as pessoas que criam uma conta de mídia social sejam quem dizem ser. Várias empresas do setor de namoro on-line, como o Tinder, recorreram à verificação de identidade conforme previmos em 2020 e 2021. A aparência disso dependerá da rede. A verificação de identidade pode ser opcional, concedendo ao usuário um ícone de ícone de "identidade verificada", como no Tinder.
Os benefícios da verificação de identidade para redes de mídia social
- Redução do volume de spam, deepfakes e contas de bots nas redes sociais.
- Experiência, tranquilidade e segurança aprimoradas para os usuários - saberemos que estamos interagindo com um ser humano verificado.
- Ajuda a rastrear e evitar abusos graves, fraudes e engenharia social nas redes sociais.
- Ajuda os usuários de mídia social a se sentirem mais seguros on-line.
- Defende a reputação das redes de mídia social, pois elas são vistas tomando medidas para proteger os usuários on-line.
Como a vivacidade e a vivacidade dinâmica podem combater as falsificações profundas e ajudar o setor de mídia social?
As deepfakes são uma ameaça única e desafiadora que exige uma solução única. É por isso que a tecnologia biométrica patenteada do iProov, Dynamic Liveness, foi projetada para oferecer proteção avançada contra deepfakes e outros ataques sintéticos ou digitais injetados.
Se as redes de mídia social optarem por implementar a tecnologia para autenticar a identidade de um usuário on-line e se protegerem contra falsificações profundas, elas precisarão garantir a seleção da tecnologia certa. Detecção de vivacidade é uma parte importante do processo de verificação de identidade e nem toda vivacidade é igual.
O Dynamic Liveness do iProov oferece todos os benefícios da detecção de vivacidade, proporcionando maior precisão sobre se um usuário é a pessoa certa e real. Mas o Dynamic Liveness também verifica se o usuário está se autenticando no momento, oferecendo proteção extra contra o uso de ataques digitais injetados que usam deepfakes ou outras mídias sintéticas.
O benefício adicional da implementação do Dynamic Liveness é que ele pode ser usado para autenticação contínua nas mídias sociais. Sempre que os usuários retornam para usar o aplicativo novamente, eles apresentam seu rosto e provam que são a pessoa certa, uma pessoa real, e que estão se autenticando no momento. Isso significa que ninguém mais poderá acessar essa conta, enviar mensagens ou realizar qualquer atividade que, depois, eles insistem que não realizaram.
iO Proov funciona em qualquer dispositivo com uma câmera voltada para o usuário - ele não requer hardware especializado para autenticação, proporcionando o máximo de acessibilidade e inclusão para os usuários finais. Além disso, o GPA vem com Centro de Operações de Segurança iProov (iSOC)-O iSOC usa tecnologia avançada de aprendizado de máquina para monitorar as operações diárias e oferecer resiliência contra ataques emergentes sofisticados.
Estamos em uma corrida armamentista entre geradores de deepfake e detectores de deepfake, e empresas como o LinkedIn devem priorizar suas medidas de segurança e considerar como podem proteger seus clientes contra ataques. O resultado final é que a tecnologia Dynamic Liveness protege contra deepfakes, garantindo que um usuário on-line seja uma pessoa real que está se autenticando no momento.
Mídia social, Deepfakes e verificação de identidade digital: Um resumo
- Os deepfakes estão sendo usados nas redes sociais, com os sites de mídia social sendo alvo de phishing (quando as pessoas divulgam informações inadvertidamente, geralmente devido à manipulação).
- Embora alguns usos de deepfakes nas mídias sociais sejam relativamente benignos, outros são perigosos: desinformação política, assédio e assim por diante.
- As plataformas de mídia social devem proteger seus usuários. A verificação de identidade oferece tranquilidade, segurança e proteção contra o assédio e a desinformação.
- Há muitas maneiras pelas quais a verificação de identidade pode ser implementada pelas redes de mídia social. A verificação de identidade poderia ser opcional, concedendo ao usuário um ícone de ícone de "identidade verificada", como no Tinder.
- O Dynamic Liveness do iProov permite que as organizações verifiquem a identidade digital do usuário, com proteção contra deepfakes e outras mídias sintéticas.
- Isso permitiria uma melhor experiência de usuário de mídia social, maior confiança, segurança e proteção para os usuários. Além disso, a introdução da verificação de identidade digital pode ajudar a defender a reputação das marcas de mídia social, pois elas são vistas tomando medidas para proteger os usuários on-line.
Saiba mais: A ameaça do Deepfake
Agende sua demonstração do iProov ou entre em contato conosco.
