El desarrollo acelerado de la inteligencia artificial ha traído consigo avances extraordinarios, pero también riesgos difíciles de ignorar desde el punto de vista legislativo y social.
Entre ellos, los llamados deepfakes, es decir, los contenidos manipulados mediante IA que imitan con gran realismo la voz o la imagen de una persona, se han convertido en uno de los principales desafíos legales y éticos de nuestro tiempo. Dependiendo de quién esté detrás, podría causar verdaderos problemas no solo a nivel personal, sino corporativo e incluso, en algunos casos, a nivel de geopolítica internacional.
Ante este peligro en el derecho a la imagen, ya hay un país que ha dado el primer paso y que puede servir de ejemplo para una posterior legislación europea.
Atributos personales protegidos: el marco legislativo en Dinamarca
Dinamarca se ha posicionado contundente al introducir una legislación clara: la imagen y la voz son atributos personales protegidos, y su uso sin consentimiento, especialmente con fines de suplantación, puede constituir delito.
Este enfoque supone un cambio relevante, ya que traslada el debate desde la tecnología hacia los derechos individuales.
Hasta ahora, muchas normativas europeas abordaban estos problemas de forma indirecta, a través de leyes de protección de datos, derechos de autor o delitos contra el honor.
Sin embargo, el fenómeno de los deepfakes plantea una cuestión específica: la capacidad de recrear digitalmente a una persona sin necesidad de acceder a sus datos personales tradicionales. Basta con unos segundos de audio o unas imágenes públicas para generar una simulación convincente.
La legislación danesa reconoce explícitamente que la identidad digital no se limita a datos como el nombre o el DNI, sino que incluye elementos biométricos como la voz o el rostro.
Esto implica que cualquier reproducción artificial de estos rasgos sin autorización puede considerarse una vulneración de derechos fundamentales, incluso si no hay robo de datos en el sentido clásico.
El problema no es únicamente teórico. Los deepfakes ya se utilizan para fraudes, campañas de desinformación, acoso o manipulación política. En algunos casos, figuras públicas han sido víctimas de vídeos falsos que afectan a su reputación; en otros, ciudadanos anónimos han sufrido la creación de contenido íntimo falso sin su consentimiento. La facilidad con la que estas herramientas están disponibles amplifica el riesgo.
¿Qué pasos ha dado la Unión Europea?
En el ámbito europeo, la Unión Europea ha comenzado a responder con marcos regulatorios como el Reglamento de Inteligencia Artificial (AI Act), que clasifica los sistemas de IA según su nivel de riesgo.
Los deepfakes entran dentro de las categorías que requieren transparencia: en teoría, deberían estar etiquetados como contenido generado artificialmente.
Sin embargo, la aproximación comunitaria todavía deja zonas grises. Etiquetar contenido no siempre es suficiente si el daño ya está hecho o si la difusión es masiva antes de cualquier control. Además, la carga de identificar y demostrar la falsedad suele recaer en la víctima, lo que complica la protección efectiva.
El modelo danés introduce una lógica más preventiva y centrada en la persona: no se trata solo de regular la tecnología, sino de definir claramente qué usos están prohibidos desde el punto de vista de los derechos individuales.
Esto simplifica la persecución legal, ya que el foco está en la suplantación en sí misma, no en los detalles técnicos de cómo se ha producido.
Para el resto de Europa, una posible línea de actuación pasaría por armonizar este tipo de reconocimiento jurídico a nivel comunitario.
Esto implicaría considerar la voz y la imagen como extensiones de la identidad personal protegida en todos los Estados miembros, facilitando así la cooperación judicial y evitando vacíos legales entre países.
Otra medida clave sería reforzar los mecanismos de responsabilidad para las plataformas digitales que alojan o difunden este tipo de contenidos. No solo en términos de retirada rápida, sino también en la detección proactiva y en la trazabilidad del contenido generado por IA.
Además, sería necesario invertir en herramientas públicas de verificación accesibles para los ciudadanos, de modo que cualquier persona pueda comprobar si un contenido ha sido manipulado.
La alfabetización digital también juega un papel fundamental: entender que no todo lo que se ve o se escucha es real será una competencia básica en los próximos años.
Finalmente, la coordinación entre legislación penal, civil y tecnológica resulta esencial. Sin un marco coherente, las víctimas pueden encontrarse con procedimientos largos, costosos y poco efectivos, mientras que la tecnología sigue avanzando a un ritmo mucho más rápido que la capacidad de respuesta legal.
