Deepfake o ultrafalsificación: qué es y cómo detectar contenidos manipulados con IA

Un deepfake o ultrafalsificación es un contenido digital creado o manipulado con inteligencia artificial para parecer una grabación real, con el objetivo de engañar a quien lo ve o lo escucha. Mediante esta tecnología se puede sustituir el rostro o la voz de una persona por los de otra, o alterar grabaciones auténticas para mostrar que alguien hizo o dijo algo que nunca ocurrió.

Para generar este tipo de contenidos, los sistemas de inteligencia artificial analizan imágenes y grabaciones de voz de una persona con el fin de aprender sus rasgos y su forma de expresarse. Así pueden producir vídeos y audios muy realistas, difíciles de distinguir de las grabaciones verdaderas. La técnica también tiene usos legítimos, como en el cine o la creación artística.

Cuando se emplea para engañar a otras personas, sin embargo, el riesgo es considerable. Los ciberdelincuentes pueden crear declaraciones falsas de personas conocidas, suplantar identidades, cometer fraudes o dañar la reputación de alguien. Un ejemplo es el de un delincuente que imita la voz de un familiar para hacer creer que se encuentra en una emergencia y necesita dinero con urgencia.

El texto advierte de que, aunque una voz resulte familiar, eso no garantiza que el mensaje sea auténtico. La recomendación es clara: antes de hacer clic, conviene pensar, y antes de compartir, contrastar la información.

Información elaborada a partir de Deia.