Es posible que algunos de tus contactos en las redes sociales se hayan generado con IA.
No, en serio - un estudio reciente del Observatorio de Internet de Stanford descubrió que más de 1.000 perfiles falsos están al acecho en LinkedIn... y esos son sólo los resultados de un estudio en una red social. El estudio identificó cuentas creadas con identidades totalmente ficticias y credenciales educativas y laborales falsas.
Este estudio pone de relieve algunos temas preocupantes:
¿Qué son los deepfakes y cómo se utilizan en las redes sociales?
Los deepfakes son vídeos o imágenes sintéticos creados con software de inteligencia artificial. Suelen utilizarse para tergiversar a las personas mostrándolas diciendo o haciendo cosas que no han dicho ni hecho. Los deepfakes se han utilizado para bromas y entretenimiento, pero también con fines más maliciosos. Resulta preocupante que el número de vídeos de deepfakes publicados en Internet se esté más que duplicándose año tras año.
En el estudio del Observatorio de Internet de Stanford sobre LinkedIn, los deepfakes se utilizaron con fines comerciales. Las cuentas deepfake enviaban mensajes de una empresa legítima para presentar su software a los confiados usuarios de LinkedIn. Esto es beneficioso para la empresa, ya que la creación de nuevas cuentas deepfake puede eludir el límite de mensajes de LinkedIn.
Aunque esto pueda parecer relativamente benigno, no es más que la superficie de un problema más profundo. Las cuentas de redes sociales que utilizan rostros generados por ordenador han cometido actos más graves.
Otros ejemplos son:
- Deepfakes impulsando desinformación política.
- Deepfakes acosando a activistas.
- Deepfakes estafa de 243.000 dólares a un director general.
Parte de lo que convierte a las falsificaciones en una amenaza tan peligrosa y escalable es que la gente no puede detectarlas. Ciertamente, puede haber indicios: la posición y el color de los ojos, incoherencias alrededor de la línea del cabello y algunas rarezas visuales.
Los datos de una encuesta reciente de iProov encontraron que el 57% de los encuestados globales creen que podrían diferenciar entre un vídeo real y un deepfake, lo que supone un aumento con respecto al 37% de 2019. Pero la verdad es que los deepfakes sofisticados pueden ser realmente indistinguibles para el ojo humano. Para verificar realmente un deepfake, se requieren tecnologías de aprendizaje profundo y visión por ordenador para analizar ciertas propiedades, como la forma en que la luz se refleja en la piel real frente a la sintética.
Las empresas de medios sociales tienen el deber de proteger a sus usuarios, anunciantes y empleados de estas amenazas cada vez más escalables. Por suerte, hay una solución.
¿Cómo puede la verificación de la identidad generar confianza en Internet y en las redes sociales?
Hemos establecido que las diversas aplicaciones de deepfakes por parte de malos actores pueden ser graves. Pero el verdadero peligro a largo plazo de los deepfakes es la erosión de la confianza en línea. Las pruebas de vídeo serán menos fiables, lo que conducirá a una negación plausible: "ese no era yo", dirá la gente, "¡es un deepfake!".
La amenaza de deepfake se reduce a una pregunta: ¿cómo se puede confiar en que alguien es quien dice ser en Internet? La respuesta es laverificación de la identidad digital. El medio de identificación más seguro, cómodo y fiable es la biometría, en particular, la verificación biométrica facial
La verificación de la identidad digital ya forma parte de nuestra vida en línea. Los procesos cotidianos ya requieren verificación, por ejemplo:
- Abrir una cuenta bancaria
- Inscribirse en programas de ayudas públicas
- Verificar la identidad para viajar
Estos ejemplos nos obligan a demostrar quiénes somos para realizar tareas importantes en línea. Sin embargo, las redes sociales son un ámbito en el que no se verifica la identidad. Cualquiera -o cualquier cosa, en el caso de los deepfakes y bots - puede crear una cuenta en las redes sociales y aparentemente hacer lo que quiera, sin temor a que se descubra su identidad.
Una opción para las redes sociales es introducir la rendición de cuentas en línea a través de la verificación facial, garantizando que alguien que crea una cuenta en una red social es quien dice ser. Varias empresas del sector de las citas en línea, como Tinder, han recurrido a la verificación de la identidad como predijimos en 2020 y 2021. Cómo se vea esto dependerá de la red. La verificación de identidad podría ser opcional, otorgando al usuario un icono de "identidad verificada" como en Tinder. icono de "identidad verificada" como en Tinder.
Ventajas de la verificación de identidad en las redes sociales
- Reducción del volumen de spam, deepfakes y cuentas de bots en las redes sociales.
- Mejor experiencia, tranquilidad y seguridad para los usuarios: sabremos que estamos interactuando con un humano verificado.
- Ayuda a rastrear y prevenir abusos graves, fraudes e ingeniería social en las redes sociales.
- Ayuda a los usuarios de las redes sociales a sentirse más seguros en línea.
- Defiende la reputación de las redes sociales, ya que se considera que están tomando medidas para proteger a los usuarios en línea.
¿Cómo pueden Liveness y Dynamic Liveness combatir los deepfakes y ayudar al sector de las redes sociales?
Las falsificaciones profundas son una amenaza única y desafiante que requiere una solución única. Por eso la tecnología biométrica patentada de iProov, Dynamic Liveness, está diseñada para ofrecer una protección avanzada contra las falsificaciones profundas y otros ataques sintéticos o digitales inyectados.
Si las redes de medios sociales deciden implantar tecnología para autenticar la identidad de un usuario en línea y protegerse contra las falsificaciones profundas, tendrán que asegurarse de seleccionar la tecnología adecuada. La detección de liveness es una parte importante del proceso de verificación de la identidad, y no todas son iguales.
Dynamic Liveness de iProov ofrece todas las ventajas de la detección de liveness, proporcionando una mayor precisión sobre si un usuario es la persona correcta y real. Pero Dynamic Liveness también verifica que el usuario se está autenticando en este momento, proporcionando una protección adicional contra el uso de ataques digitales inyectados que utilizan deepfakes u otros medios sintéticos.
La ventaja adicional de aplicar Dynamic Liveness es que puede utilizarse para la autenticación continua en las redes sociales. Cada vez que los usuarios vuelven a utilizar la aplicación, presentan su rostro y demuestran que son la persona correcta, una persona real, y que se están autenticando en ese momento. Esto significa que nadie más podrá acceder nunca a esa cuenta, ni enviar mensajes, ni realizar cualquier actividad que luego insistan en no haber realizado.
iProov funciona en cualquier dispositivo con una cámara orientada hacia el usuario: no requiere hardware especializado para la autenticación, lo que proporciona la máxima accesibilidad e inclusividad para los usuarios finales. Además, GPA incluye Centro de operaciones de seguridad iProov (iSOC)-El iSOC utiliza tecnología avanzada de aprendizaje automático para supervisar las operaciones cotidianas y proporcionar resistencia frente a ataques emergentes sofisticados.
Nos encontramos en una carrera armamentística entre los generadores de deepfakes y los detectores de deepfakes, y empresas como LinkedIn deben dar prioridad a sus medidas de seguridad y estudiar cómo pueden proteger a sus clientes de los ataques. La conclusión es que la tecnología Dynamic Liveness protege contra las falsificaciones garantizando que un usuario en línea es una persona real que se está autenticando en ese momento.
Redes sociales, deepfakes y verificación de la identidad digital: Resumen
- Los "deepfakes" se están utilizando en las redes sociales, que son el blanco de la suplantación de identidad (por la que las personas revelan información sin darse cuenta, a menudo debido a la manipulación).
- Mientras que algunos usos de los deepfakes en las redes sociales son relativamente benignos, otros son peligrosos: desinformación política, acoso, etc.
- Las plataformas de medios sociales deben proteger a sus usuarios. La verificación de la identidad proporciona tranquilidad, seguridad y protección frente al acoso y la desinformación.
- Las redes sociales pueden verificar la identidad de muchas maneras. La verificación de identidad podría ser opcional, otorgando al usuario un icono de "identidad verificada", como en Tinder. icono de "identidad verificada", como en Tinder.
- Dynamic Liveness de iProov permite a las organizaciones verificar la identidad digital de los usuarios, con protección contra deepfakes y otros medios sintéticos.
- Esto permitiría mejorar la experiencia de los usuarios de las redes sociales y aumentar su confianza, seguridad y protección. Además, la introducción de la verificación de la identidad digital puede ayudar a defender la reputación de las marcas de las redes sociales, ya que se considera que están tomando medidas para proteger a los usuarios en línea.
Más información: La amenaza Deepfake
Reserve su demostración iProov o póngase en contacto con nosotros.
