Capítulo 35. Deepfakes y tiktok. Cuando los tiktokers dejan de bailar para luchar contra la desinformación política

• Date: 01 January 2024
• Author: Graciela Padilla Castillo, ana Velasco Molpeceres, Jonattan Rodríguez Hernández



CAPÍTULO 35

DEEPFAKES Y TIKTOK. CUANDO LOS TIKTOKERS

DEJAN DE BAILAR PARA LUCHAR CONTRA

LA DESINFORMACIÓN POLÍTICA

GRACIELA PADILLA CASTILLO

Universidad Complutense de Madrid

ANA VELASCO MOLPECERES

Universidad Complutense de Madrid

JONATTAN RODRÍGUEZ HERNÁNDEZ

Universidad Complutense de Madrid

1. INTRODUCCIÓN Y CONTEXTO

Los deepfakes o “mentiras profundas” (en castellano) son archivos de

vídeo, imagen o voz manipulados mediante un software de inteligencia

artificial. Parecen auténticos y reales, por la calidad de las máscaras que

generan y cómo éstas son insertadas en otro archivo original, con otros

protagonistas distintos. Aunque los deepfakes existen desde finales de

1990, cobraron interés internacional en 2017, cuando un usuario de

Reddit publicó material pornográfico falso con los rostros de varias ac-

trices famosas y puso a disposición de los usuarios el software que per-

mite hacer cualquier montaje. Desde entonces, las investigaciones aca-

démicas se han centrado especialmente en sus peligros, pues atenta con-

tra la imagen cualquiera, construyendo un imaginario falsificado y per-

verso, muy difícil de detectar; aunque no ha sido suficiente para frenar

el fenómeno.

La firma de inteligencia artificial DeepTrace encontró, en el año 2019,

15.000 vídeos de deepfake en internet. El 96% de esos vídeos era de

carácter pornográfico. En enero de 2020, Meta (Facebook e Instagram)

prohibió los deepfakes, excepto para publicaciones humorísticas o pa-

ródicas. En marzo de 2023, TikTok anunció una medida muy similar,

prohibiendo los vídeos creados por “medios sintéticos y manipulados”.



Las medidas son numerosas para detectar y denunciar los deepfakes:

los expertos apuestan por formar a la ciudadanía en alfabetización digi-

tal, los medios reproducen y critican los vídeos falsos en campañas

electorales, y empresas, universidades y gobiernos prohíben el uso de

deepfakes y otras inteligencias artificiales. Mientras que la primera

preocupación era la pornografía, en los últimos meses, la desinforma-

ción política se ha convertido en otra consecuencia problemática y po-

tencialmente peligrosa de las “mentiras profundas”.

Los deepfakes inducen a error, transmiten mensajes nunca pronuncia-

dos, y facilitan la desinformación. En tiempos de desazón política y

desconfianza en los dirigentes, estos vídeos encuentran un público po-

lítica o ideológicamente polarizado y ávido de compartir y reenviar ar-

chivos audiovisuales. Este trabajo se centra en estudiar los deepfakes

en TikTok desde una perspectiva original e inédita: detectando, anali-

zando y comentando aquellas cuentas divulgativas en la red social

china, que educan a los usuarios en los elementos, características y fa-

llos que desvelan la naturaleza mentirosa de esas piezas audiovisuales.

1.1. QUÉ ES UN DEEPFAKE. ANTECEDENTES Y ESTADO DE LA CUESTIÓN

Se considera que el término deepfake nació en 1990. Aunque su inven-

ción o desarrollo como técnica específica no está atribuida a una per-

sona en particular, sí se viralizó a partir de un usuario y una fecha con-

cretos de Reddit, en 2017. Dicho usuario, autodenominado Deepfakes

(Cole, 2017), seleccionó los rostros de algunas celebridades, como Gal

Gadot, Maisie Williams y Taylor Swift, para incluirlas en el cuerpo de

varias actrices de cine pornográfico (Cole, 2017; Cerdán y Padilla,

2019). El resultado fueron varios vídeos impúdicos, que parecían inter-

pretados por las propias famosas. Para su realización, el usuario

Deepfakes empleó su ordenador de casa y un algoritmo de machine

learning, que cualquiera podía descargarse de Internet (Cerdán y Padi-

lla, 2019).

La nueva herramienta ganó tantos adeptos que Deepfakes creó un su-

breddit, con su nombre de usuario, sólo para este tipo de vídeos. Dos

meses más tarde, contaba con 15.000 suscriptores. Esta comunidad ex-

tendió internacionalmente el uso de la palabra deepfake para referirse a