Por Debanhi Soto con información de 404 Media
Durante años, los deepfakes -contenido audiovisual manipulado con inteligencia artificial para imitar rostros o voces- solo se podían usar como contenido pregrabado. Pero con la tecnología actual esta barrera ya no existe, si no que los deepfakes se pueden ejecutar en tiempo real lo que aumenta el riesgo de estafas y robo de identidad.
Una investigación del medio de comunicación especializado en tecnología, 404 Media, documentó varios casos en los que estafadores usan deepfakes en tiempo real para engañar a personas en videollamadas y para burlar sistemas de verificación de identidad en bancos y plataformas digitales.
Puedes leer la investigacion completa aquí.
Te conviene leer: ¡Cuidado con las estafas de llamada perdida! Tips para evitar caer en ellas.
¿Cómo funcionan las estafas con deepfakes en tiempo real?
Uno de los ejemplos que muestra la investigación de 404 Media es el de un hombre mayor que coquetea por videollamada con una mujer. Ella lo ve como alguien real e ignora que del otro lado de la línea en realidad hay un hombre joven frente a una laptop usando una aplicación que transforma en vivo su rostro y su voz.
Este no es un caso aislado. Existen múltiples reportes de fraudes similares en los que los estafadores se presentan como otras personas distintas y establecen vínculos de amistad para ganarse la confianza de la víctima y después pedirle dinero.
Los deepfakes en tiempo real también están siendo usados para burlar sistemas de verificación de identidad. Especialmente los procesos conocidos como Conoce a tu Cliente (KYC por sus siglas en inglés) que requieren que una persona muestre su rostro en vivo para abrir una cuenta bancaria o confirmar su identidad ante una institución.
David Maimon, director de análisis de fraude en la empresa de ciberseguridad SentiLink explicó a 404 Media que ya existen casos documentados en los que estafadores logran pasar los filtros de seguridad con un deepfake.
Incluso hay casos en los que el ladrón genera una cara con IA, la coloca en una identificación falsa y después realiza una videollamada con un deepfake en tiempo real para confirmar la identidad.
Además, en Estados Unidos se han detectado fraudes con devoluciones fiscales, donde los estafadores presentan declaraciones de impuestos a nombre de otras personas para quedarse con su reembolso.
Las estafas deepfake cada vez son más populares
Este tipo de estafa se empezó a popularizar debido a su facilidad para realizarse. En canales de Telegram dedicados al fraude circulan tutoriales, herramientas y videos que muestran cómo hacerlo.
Usando una laptop, un celular, una app para cambiar el rostro y un anillo de luz los estafadores pueden subir una foto cualquiera y convertirla en una identidad animada en vivo.
Algunas apps también incluyen modificadores de voz que se conectan a dispositivos externos para lograr un timbre más convincente.
¿Cómo evito caer en una estafa con deepfake?
Durante mucho tiempo, los deepfakes en tiempo real eran fáciles de detectar. Se veían lentos, poco sincronizados o artificiales. Pero en los últimos meses, la tecnología mejoró de forma acelerada. Hoy, hay registros de videollamadas de larga duración donde el fraude se mantiene estable sin romper la ilusión.
Una empresa llamada Reality Defender, que se especializa en detectar deepfakes, reportó un aumento significativo en la demanda de herramientas para videollamadas en Zoom y Teams, así como para procesos de verificación de identidad
Pero, además de usar herramientas digitales como las que ofrece Reality Defender te ofrecemos otros tips prácticos para no caer en fraudes con deepfakes en tiempo real:
- Observa los detalles del rostro y el entorno: Aunque los deepfakes han mejorado, nunca está de más analizar detalles que podrían significar manipulación artificial como parpadeos poco naturales, sombras en el rostro, movimiento de labios que no coincide con la voz, pieles sin textura o fondos sin profundidad
- Escucha bien la voz: Algunos estafadores usan modificadores de voz que pueden sonar extraños. Busca si el audio se escucha metálico, artificial o si los tiempos de respuesta son demasiado lentos.
- Verifica por canales alternos: Aunque recibas una llamada de una persona, envíale un mensaje por otro canal para verificar que la persona en la llamada si es quien dice ser.
