I vostri contatti sui social media sono in realtà dei Deepfakes? È ora di verificare l'identità sui social media?

Alcuni dei vostri contatti sui social media potrebbero essere stati generati con l'intelligenza artificiale.

No, davvero: un recente studio dello Stanford Internet Observatory ha scoperto che su LinkedIn si nascondono oltre 1.000 profili falsi... e questo è solo il risultato di uno studio su un social network. Lo studio ha identificato account creati utilizzando identità completamente fittizie con credenziali di istruzione e di lavoro false.

Questo studio mette in evidenza alcuni argomenti di interesse: 

La minaccia dei deepfakes e il pericolo che rappresentano pericolo che rappresentano per la società, i governi e le imprese è in crescita.

Le reti di social media dovrebbero prendere urgentemente in considerazione metodi per stabilire l'autenticità degli utenti, al fine di proteggere gli utenti dei social media da minacce online come i deepfakes.

Le reti di social media sono a rischio di minacce come gli attacchi sintetici scalabili, che potrebbero avere gravi conseguenze, come la perdita di fiducia.

Con LinkedIn che di recente è diventato il più grande il sito web più bersagliato dagli attacchi di phishingè giunto il momento di discutere seriamente di come i social network possano migliorare la sicurezza attraverso forme di verifica dell'identità.

Cosa sono i deepfakes e come vengono utilizzati sui social media?

I deepfake sono video o immagini sintetici creati con software basati sull'intelligenza artificiale. Vengono spesso utilizzati per travisare le persone mostrando loro che dicono o fanno cose che non hanno detto o fatto. I deepfake sono stati utilizzati per scherzi e intrattenimento, ma anche per scopi più maligni. Il numero di video deepfake pubblicati online è più che raddoppiato. raddoppiato di anno in anno.

Nello studio dello Stanford Internet Observatory di LinkedIn, i deepfake sono stati utilizzati per scopi commerciali. Gli account deepfake inviavano messaggi di un'azienda legittima per proporre il proprio software a ignari membri di LinkedIn, rendendo i deepfake uno strumento di vendita, in sostanza. Questo è vantaggioso per l'azienda perché la creazione di nuovi account deepfake può aggirare il limite di messaggi di LinkedIn.

Sebbene questo possa sembrare relativamente benigno, è solo la superficie di un problema più profondo. Gli account dei social media che utilizzano volti generati al computer hanno commesso atti più gravi.

Altri esempi sono:

• Deepfakes che spinge disinformazione politica.
• Deepfakes che molesta attivisti.
• Falsi profondi truffa di 243.000 dollari a un amministratore delegato.

Parte di ciò che rende i deepfakes una minaccia così pericolosa e scalabile è che le persone non riescono a riconoscere i deepfakes. Certo, ci possono essere degli indizi: il posizionamento e il colore degli occhi, le incongruenze intorno all'attaccatura dei capelli e alcune stranezze visive. 

I dati di un recente sondaggio di iProov hanno rilevato che il 57% degli intervistati a livello globale ritiene di essere in grado di distinguere un video reale da un deepfake. video reale e un deepfake, in aumento rispetto al 37% del 2019. Ma la verità è che i deepfake sofisticati possono essere davvero indistinguibili all'occhio umano. Per verificare realmente un deepfake, sono necessarie tecnologie di deep learning e di computer vision per analizzare alcune proprietà, come il modo in cui la luce si riflette sulla pelle reale rispetto a quella sintetica.

Le aziende di social media hanno il dovere di proteggere i propri utenti, inserzionisti e dipendenti da queste crescenti minacce scalabili. Per fortuna c'è una soluzione.

Come può la verifica dell'identità stabilire la fiducia online e sui social media?

Abbiamo stabilito che le varie applicazioni dei deepfakes da parte di malintenzionati possono essere gravi. Ma il vero pericolo a lungo termine dei deepfakes è l'erosione della fiducia online. l'erosione della fiducia online. Le prove video diventeranno meno affidabili, portando alla negazione plausibile: "non ero io", potrebbero dire le persone, "è un deepfake!".

La minaccia di deepfake si riduce a una domanda: come ci si può fidare che qualcuno sia chi dice di essere online? Larisposta è la verifica dell'identità digitale. Il mezzo di identificazione più sicuro, comodo e affidabile è la biometria, in particolare, la verifica biometrica del volto

La verifica dell'identità digitale fa già parte della nostra vita online. I processi quotidiani richiedono già una verifica, come ad esempio:

• Impostazione di un conto bancario
• Registrazione ai programmi di supporto governativi
• Verifica dell'identità per i viaggi

Questi esempi ci impongono di dimostrare chi siamo per portare a termine compiti importanti online. Tuttavia, i social media sono un ambito in cui la verifica dell'identità è assente. Chiunque - o qualsiasi cosa, nel caso di deepfakes e bot - può creare un account sui social media e fare apparentemente ciò che vuole, senza temere che si possa risalire a lui.

Un'opzione per le reti di social media è quella di introdurre la responsabilità online attraverso la verifica del volto, assicurando che chi crea un account sui social media sia chi dice di essere. Diverse aziende del settore degli incontri online, come Tinder, si sono rivolte alla verifica dell'identità come avevamo previsto nel 2020 e 2021. L'aspetto dipende dalla rete. La verifica dell'identità potrebbe essere facoltativa, concedendo all'utente un'icona "identità verificata" come su Tinder. icona "identità verificata" come su Tinder.

I vantaggi della verifica dell'identità per le reti dei social media

• Riduzione del volume di spam, deepfakes e account bot sui social network. 
• Migliore esperienza, rassicurazione e sicurezza per gli utenti: sapremo che stiamo interagendo con un essere umano verificato.
• Aiuta a tracciare e prevenire gravi abusi, frodi e social engineering sui social network.
• Aiuta gli utenti dei social media a sentirsi più sicuri online.
• Difende la reputazione dei social network, in quanto si ritiene che stiano agendo per proteggere gli utenti online.

In che modo Liveness e Dynamic Liveness possono combattere i deepfakes e aiutare il settore dei social media?

I deepfakes sono una minaccia unica e impegnativa che richiede una soluzione unica. Ecco perché la tecnologia biometrica brevettata di iProov, Dynamic Liveness, è stata progettata per offrire una protezione avanzata contro i deepfakes e altri attacchi sintetici o digitali iniettati.

Se i social network decidono di implementare una tecnologia per autenticare l'identità di un utente online e proteggersi dai deepfake, dovranno assicurarsi di scegliere la tecnologia giusta. Il rilevamento della vivacità è una parte importante del processo di verifica dell'identità e non tutti i tipi di liveness sono uguali.

Dynamic Liveness di iProov offre tutti i vantaggi della rilevamento della vivacità, fornendo una maggiore precisione nel determinare se un utente è la persona giusta e reale. Ma Dynamic Liveness verifica anche che l'utente si stia autenticando in questo momento, offrendo una protezione extra contro l'uso di attacchi digitali iniettati che utilizzano deepfake o altri supporti sintetici.

Il vantaggio aggiuntivo dell'implementazione di Dynamic Liveness è che può essere utilizzato per l'autenticazione continua sui social media. Ogni volta che gli utenti tornano a utilizzare l'app, presentano il proprio volto e dimostrano di essere la persona giusta, una persona reale, e che si stanno autenticando in questo momento. Ciò significa che nessun altro potrà mai accedere a quell'account, inviare messaggi o eseguire operazioni. qualsiasi attività che poi ribadiscono di non aver fatto. 

iProov funziona su qualsiasi dispositivo dotato di fotocamera rivolta verso l'utente e non richiede hardware specifico per l'autenticazione, garantendo la massima accessibilità e inclusività per gli utenti finali. Inoltre, GPA viene fornito con Centro operativo di sicurezza iProov (iSOC)-iSOC utilizza un'avanzata tecnologia di apprendimento automatico per monitorare le operazioni quotidiane e fornire resilienza contro gli attacchi emergenti più sofisticati.

Siamo in una corsa agli armamenti tra i generatori di deepfake e i rilevatori di deepfake, e le aziende come LinkedIn devono dare priorità alle loro misure di sicurezza e considerare come proteggere i loro clienti dagli attacchi. La tecnologia Dynamic Liveness protegge dai deepfake assicurando che un utente online è una persona reale che si sta autenticando in questo momento.

Social Media, Deepfakes e verifica dell'identità digitale: Una sintesi

• I deepfakes vengono utilizzati sui social network, che vengono presi di mira per il phishing (in cui le persone rivelano inavvertitamente informazioni, spesso a causa di una manipolazione).
• Mentre alcuni usi dei deepfakes sui social media sono relativamente benigni, altri sono pericolosi: disinformazione politica, molestie e così via.
• Le piattaforme di social media devono proteggere i loro utenti. La verifica dell'identità fornisce rassicurazione, sicurezza e protezione da molestie e disinformazione. 
• Le reti di social media possono implementare la verifica dell'identità in molti modi. La verifica dell'identità potrebbe essere facoltativa, concedendo all'utente un'icona "identità verificata" come su Tinder. icona "identità verificata" come su Tinder.
• Dynamic Liveness di iProov consente alle organizzazioni di verificare l'identità digitale degli utenti, con una protezione contro i deepfake e altri supporti sintetici. 
• Ciò consentirebbe di migliorare l'esperienza degli utenti dei social media e di aumentare la fiducia, la sicurezza e la protezione degli utenti. Inoltre, l'introduzione della verifica dell'identità digitale può contribuire a difendere la reputazione dei marchi di social media, in quanto si vede che stanno agendo per proteggere gli utenti online.

Per saperne di più: La minaccia Deepfake

Prenota la tua demo iProov oppure contattateci.