Como sabemos, si algo caracteriza al siglo XXI es el surgimiento y auge de la llamada “posverdad”, término que según la RAE hace referencia a la distorsión deliberada de una realidad, a través de la manipulación de las creencias y emociones con el fin de influir en la opinión pública y en actitudes sociales. Todos sabemos que las llamadas fake news han decantado resultados electorales como la victoria de Trump en 2016 o la salida de Gran Bretaña de la UE, por poner solo un par de ejemplos. Pues bien, las deepfakes, no son ni más ni menos que la versión avanzada y audiovisual de las primeras. Y si las fake news ya tenían una fuerte capacidad de incidir en procesos electorales, afectar a la seguridad de un país o violar derechos fundamentales, el potencial de las segundas es muchísimo mayor.
Gracias a técnicas de IA de datos, como el aprendizaje automático (machine learning), es posible crear archivos de imagen y sonido manipulados pero que parecen completamente reales. Esta técnica de síntesis de imágenes basada en IA recibe el nombre de deepfake (traducido al castellano como “ultrafalso”): término compuesto por la palabra deep (proveniente de Deep Learning o aprendizaje profundo) y fake (falso en inglés). Y aunque ya existen desde 1990, cobraron especial interés desde 2017. Cuando un usuario de Reddit autodenominado Deepfake empleó los rostros de Gal Gadot, Maisie Williams y Taylor Swift fusionándolos con cuerpos de actrices de pornografía para crear vídeos convincentes que simulaban la participación de celebridades. Para ello utilizó su ordenador personal y un algoritmo de machine learning fácilmente descargable en internet. Este usuario subió y compartió los vídeos en Reddit (Reddit es un sitio web de marcadores sociales y agregador de noticias donde los usuarios pueden añadir textos, imágenes, videos o enlaces. Los usuarios pueden votar a favor o en contra del contenido, haciendo que aparezcan en las publicaciones destacadas) generando un enorme interés.
El público de Reddit es mayoritariamente anglosajón. Fue en esta plataforma donde se popularizaron y propagaron los primeros vídeos deepfake. La nueva moda ganó tantos adeptos que este usuario creó un subreddit dedicado solo para este tipo de videos que podían ser creados por cualquier persona sin conocimientos informáticos y en solo 2 meses contaba con 15.000 suscriptores. Esta comunidad extendió el uso de la palabra deepfake para referirse a todos los vídeos “ultrafalsos” creados con IA.
Aunque hay muchos tipos de Deepfakes, el 98% de estos son de carácter pornográfico y tienen un fuerte el carácter sexista siendo, uno de los principales objetivos de sus creadores, la violencia contra las mujeres.
- Según el Informe State of Deepfakes 2023, de la empresa Home Security Heroes, el 98% de los deepfakes que hay en Internet son pornográficos;
- 7 de cada 10 sitios web pornográficos alojan deepfake porn.
- El 99% de las personas que aparecen en las deepfake pornográficas son mujeres.
Uno de los factores más importantes que explican la proliferación de las deepfakes pornográficas es que, si en un principio se precisaban conocimientos de informática y edición de imágenes, ahora, una de cada tres herramientas disponibles permite elaborar creaciones falsas en menos de 25 minutos y a coste cero. Un ejemplo conocido es la aplicación DeepNude que permite desnudar a una mujer: a partir de un retrato y de una base de datos de 10.000 fotos de mujeres desnudas tomadas de internet, añade un cuerpo desnudo al rostro retratado. Hoy las plataformas pornográficas convencionales como Pornhub se han inundado de vídeos, no solo de celebridades, sino de mujeres anónimas cuyas exparejas usan la tecnología para vengarse o humillarlas; o de mujeres jóvenes cuyo rostro se encuentra en este tipo de vídeos sin su conocimiento y, por supuesto, sin su consentimiento porque así lo han decidido sus compañeras de instituto para denigrarlas, etc.…
Y detrás de este tipo de acciones delictivas hay derechos fundamentales tan relevantes como el derecho a la propia imagen, la dignidad, el honor, o la integridad moral de las mujeres. Llama la atención, además, que en el mundo de las deepfakes las mujeres protagonizamos falsas escenas eróticas y pornográficas en espacios privados e íntimos; mientras que los hombres protagonizan discursos y circunstancias relacionados con el humor o con la política, apareciendo normalmente vestidos y en espacios públicos. Las mujeres somos cosificadas y nuestros rostros se pegan al cuerpo de una actriz despersonificada. Mientras que ellos tienen otro cuerpo, u otra voz, pero no pierden su esencia personal ni son tratados como objetos porque lo llamativo es lo que dicen o hacen. Estos contenidos devuelven a las mujeres a un estadio inicial de la representación patriarcal más basta: el descrédito relacionado con la sexualidad por la incapacidad consustancial a la naturaleza femenina de alcanzar esferas públicas.
Es evidente, por tanto, que la Inteligencia Artificial también tiene un sesgo de género y que es necesario abordar este asunto con urgencia si queremos evitar una sociedad digital patriarcal.
Más información