-
Deepfakes:
Cómo detectar y prevenir engaños basados en IA
El rápido desarrollo de la inteligencia artificial permite a los ciberdelincuentes crear falsificaciones realistas de voces, caras y textos. Estos llamados deepfakes pueden ser imágenes digitales, audio, video o contenido de texto generado utilizando inteligencia artificial.
Los intentos de fraude utilizando deepfakes son cada vez más frecuentes, tanto en contextos profesionales como privados. Por lo tanto, se requiere una precaución especial.
Puntos clave:
Los deepfakes engañan a individuos específicos con voces, caras y textos realistas generados por IA, y son utilizados por ciberdelincuentes tanto en entornos profesionales como privados.
Las posibles señales de deepfakes incluyen movimientos antinaturales, distorsiones o pistas lingüísticas como repeticiones de palabras y patrones o un estilo de voz inconsistente; presta atención a las señales de advertencia y confía en tu instinto.
Protégete verificando identidades y desconfiando de solicitudes o contenidos inusuales. Mejora tu alfabetización mediática digital y utiliza herramientas digitales disponibles si es necesario.
Detección de deepfakes: qué buscar
Las voces, caras y textos generados artificialmente son cada vez más realistas, y puede ser difícil detectarlos a primera vista. Por lo tanto, es fundamental conocer las señales a las que debes prestar atención y confiar en tus instintos.
Puntos clave a considerar:
Confía en tus instintos
Si algo te parece extraño, haz preguntas específicas, ya sea directamente en una conversación o a través de otro método de contacto conocido. Por ejemplo, pregunta por detalles a través de un número de teléfono que solo la persona real conocería, o contacta a la persona a través de un número conocido, dirección de correo electrónico o aplicación de mensajería para verificación.
Inconsistencias en los movimientos faciales
En videos, presta atención a movimientos bruscos, expresiones faciales inapropiadas, proporciones extrañas o movimientos de labios no sincronizados. Las caras generadas por IA a menudo tienen problemas con movimientos naturales como parpadear, fruncir el ceño o pequeños tics musculares.
Inconsistencias en la voz
Distorsiones, pausas, ecos o una melodía de habla monótona en llamadas o mensajes de voz pueden ser señales de una voz falsa, generada por IA.
Lenguaje extraño
Los textos generados por IA suelen ser impecables, pero pueden parecer impersonales, contener repeticiones, frases insulsas o términos inapropiados.
Inconsistencias visuales
Comprueba si la luz, las sombras o los reflejos en las imágenes parecen realistas. Si no estás seguro de las imágenes, utiliza una búsqueda inversa de imágenes para encontrar las imágenes en otro lugar de internet.
Mensajes inesperados
Si una llamada, mensaje o video te parece sospechoso, cuestiónalo. ¿Es plausible? ¿Lo esperaba? También cuestiona las fuentes. ¿De dónde viene el video o la imagen? ¿La fuente es confiable? ¿La identidad de la persona está claramente confirmada?
Usa buena calidad de imagen
Mira videos en una pantalla más grande, no en tu teléfono. La alta resolución y los ajustes de color correctos ayudan a resaltar los detalles y las posibles inconsistencias, por ejemplo, en la piel o las expresiones faciales.
Los peligros de los deepfakes
Los deepfakes son más que simples trucos técnicos, representan una seria amenaza.
- Fraude dirigido: Los ciberdelincuentes utilizan deepfakes para falsificar identidades y ganar confianza. Una llamada falsa o un mensaje de video de aspecto realista del "jefe" o de tu banco puede ser suficiente para que las personas revelen datos sensibles o transfieran grandes sumas de dinero.
- Difusión de desinformación: Los deepfakes pueden manipular opiniones haciendo que políticos, celebridades o periodistas parezcan hacer declaraciones específicas. Esto puede influir en los debates políticos y socavar la confianza en fuentes de información fiables.
- Daño a la reputación y extorsión: Videos o imágenes manipulados pueden ser utilizados para exponer, chantajear o desacreditar a personas, por ejemplo, a través de supuestos contenidos comprometedores.
- Impacto social: Cuanto más realistas se vuelven los deepfakes, más difícil es distinguir entre lo real y lo falso. Esto fomenta la desconfianza en el contenido real, un desarrollo que puede poner en peligro los procesos democráticos.
Variantes comunes de fraude usando deepfakes
Ya sean audios, videos o fotografías falsos, los deepfakes son cada vez más sofisticados. Los ciberdelincuentes los utilizan específicamente para ganar confianza y causar daño. Veamos algunos de los esquemas de fraude más comunes en circulación y cómo reconocerlos.
Mensajes de voz falsos
Los atacantes pueden crear mensajes de voz que parecen provenir de alguien que conoces. Es posible que te pidan que reveles información sensible o que abras un documento que contenga malware.
Llamadas telefónicas o videollamadas manipuladas
Gracias a las tecnologías avanzadas, es posible falsificar voces en tiempo real durante una llamada telefónica. Un ejemplo conocido es el caso de una empresa de energía británica cuyo CEO creyó que estaba hablando con el director general de la empresa matriz y posteriormente transfirió 220.000 euros a una cuenta fraudulenta.
Deepfakes en videoconferencias
En Hong Kong, un empleado financiero de una empresa fue engañado cuando los estafadores utilizaron la tecnología deepfake en una videoconferencia para hacerse pasar por el CFO y otros empleados. Se le instruyó al empleado para que iniciara transacciones, lo que resultó en una pérdida de alrededor de 23.5 millones de euros.
Llamadas de choque con voces falsas
Los estafadores utilizan tecnologías deepfake para hacerse pasar por familiares o amigos y pedir dinero en emergencias falsas. Un ejemplo es la llamada estafa de "los abuelos", donde las personas mayores son llamadas por supuestos nietos y se les pide apoyo financiero.
Noticias falsas
Los delincuentes crean videos deepfake al estilo de formatos de noticias conocidos, en los que personas famosas supuestamente promocionan inversiones lucrativas. Un objetivo podría ser conseguir que los espectadores visiten sitios web fraudulentos para invertir dinero.
Fotos manipuladas
Las fotos deepfake creadas con generadores de imágenes pueden mostrar a personas en situaciones que nunca ocurrieron. Los ejemplos incluyen imágenes de celebridades en situaciones embarazosas o fabricadas, utilizadas para difundir información falsa o dañar su reputación.
Medidas de protección contra el fraude deepfake
- Verificación de identidad: Verifica la identidad del remitente a través de preguntas o canales de comunicación alternativos.
- Conciencia: Edúcate a ti mismo y a quienes te rodean sobre los medios digitales y aumenta la conciencia sobre los peligros de los deepfakes.
- Soluciones técnicas: Utiliza software y herramientas que ayuden a detectar deepfakes.
- Mantente vigilante: Cuestiona críticamente las comunicaciones inusuales para protegerte de los crecientes peligros de los deepfakes.
Preguntas y respuestas sobre deepfakes
Show content of ¿Qué son exactamente los deepfakes y cómo se crean?
Los deepfakes son contenidos mediáticos engañosamente realistas, generalmente videos, audios o imágenes, creados o alterados utilizando inteligencia artificial. Los delincuentes utilizan modelos de IA entrenados con grabaciones de voz, fotos, videos o estilo de escritura de una persona. Los "datos de entrenamiento" para deepfakes también se pueden generar llamando a personas cuya voz se va a clonar bajo un pretexto, solo para grabar su voz.
Show content of ¿En qué se diferencian los deepfakes de otras formas de manipulación digital?
A diferencia de las ediciones de imágenes simples o los perfiles falsos, los deepfakes crean contenido realista y dinámico, como personas hablando en videos o conversaciones telefónicas creíbles. La falsificación suele ser difícil de detectar.
Show content of ¿Por qué los deepfakes son una amenaza creciente?
La tecnología deepfake está mejorando y es más accesible, con muchas soluciones de software básicas incluso disponibles de forma gratuita. Además, las grabaciones para entrenar aplicaciones basadas en IA son cada vez más fáciles de encontrar, especialmente en las redes sociales. Los deepfakes pueden explotar la confianza, por ejemplo, convenciendo a las personas de transferir dinero o haciendo que la información falsa parezca creíble.
Show content of ¿Dónde se utilizan ya los deepfakes?
Los deepfakes se encuentran en el entretenimiento (por ejemplo, películas, memes), pero también en la política, para la difusión de desinformación, y en el periodismo, donde el contenido manipulado puede distorsionar las noticias reales.
Show content of ¿Qué riesgos plantean los deepfakes para las personas, las empresas y la sociedad?
Las personas pueden sufrir daños emocionales o financieros por el impacto de los deepfakes, mientras que las empresas pueden sufrir daños financieros o de reputación. Socialmente, los deepfakes promueven la desconfianza, la desinformación y la manipulación en el discurso público.
Show content of ¿Cómo debo comportarme durante una llamada o videollamada sospechosa?
Termina la conversación si algo te parece extraño. Haz preguntas específicas que solo la persona real conocería. Vuelve a llamar, pero solo a través de un número conocido y seguro.
Show content of ¿Una conversación fraudulenta por correo electrónico o mensajería puede ser generada por IA?
Sí. Existen modelos de IA específicamente entrenados para fines fraudulentos. Generan respuestas y preguntas engañosamente reales y personalizadas, diseñadas para generar confianza y provocar una acción inmediata.
Show content of ¿Se puede falsificar la escritura a mano de una persona utilizando inteligencia artificial?
Sí, es técnicamente posible. Unas pocas líneas de escritura a mano real son suficientes para crear una falsificación engañosamente real, por ejemplo, para firmas o notas. Su uso puede ser legítimo, por ejemplo, para diseño, animación o accesibilidad, pero también puede ser utilizado para fraude y robo de identidad.
