Deepfake

No cabe duda de que la IA es una herramienta que puede ser de gran utilidad en una gran variedad de ámbitos, no obstante, no todo lo que trae esta revolución de inteligencia artificial son aspectos positivos, desde la incorporación de esta en nuestra sociedad, han emergido algunos peligros que nunca hubiésemos previsto. Uno de estos peligros son los deepfake, este concepto se basa en la manipulación de contenidos a través de la inteligencia artificial, dicha manipulación se puede dar tanto en videos como en imágenes y audios, a priori se comenzó utilizando esta herramienta como contenido de humor, pero la evolución de este ha traído consigo algunos problemas y peligros.

Hace tiempo se publicó una noticia que trataba acerca de unas familias de  Almendralejo (Badajoz) que habían denunciado la circulación de fotografías manipuladas con inteligencia artificial de 25 menores de entre 12 y 17 años.  Por si no fuera poco, las víctimas tuvieron que soportar una gran cantidad de comentarios machistas y despectivos cuando la circulación de las fotos aumentó, provocando que se  sintieran culpables, cuando ellas eran claramente las víctimas de esta agresión digital. 

Otro de los múltiples casos que podemos encontrar de esta violencia digital es el de la cantante Catalan Rosalia, el cantante JC Reyes subió a su cuenta de instagram una imagen de la artista con el torso desnudo escribiendo “Lo mejor que verás hoy” en el encabezado de esta, a lo que la cantante respondió el Twitt que voy a adjuntar a continuación. 

Enlace X Rosalía 

Después de varias denuncias de parte de los seguidores de la artista, JC Reyes realizó  un directo vía instagram donde reconoció que había editado las imágenes con Photoshop y que lejos de arrepentirse exclamó lo siguiente: “Estaba expresando nada más lo que sentía, tío, no era para que os alteréis de esa manera”, y añadió que la cantante le mandaba a él ese tipo de contenido y que nunca lo publicaría. Además, en su retransmisión, el cantante aprovechó para promocionar su próxima canción: “Se va a llamar Rosalía”. Dejando en relieve la falta de remordimiento y haciendo uso de la manipulación de imágenes de una mujer solamente con la finalidad de que su cuerpo sea una herramienta de Marketing. 

En los casos expuestos podemos observar una manifestación más de violencia estructural, donde una vez más las violencias y agresiones afectan de forma desproporcionada a las mujeres, estos hechos reflejan a la perfección la realidad de nuestra sociedad, En ambos ejemplos, las mujeres no solo sufrieron la manipulación de su imagen, sino también la humillación pública y la culpabilización social. La sociedad, en lugar de proteger a las víctimas, muchas veces termina juzgándolas, revictimizándolas y perpetuando dinámicas de desigualdad y abuso.

Esto nos demuestra que, aunque cambien las herramientas, la raíz del problema sigue siendo la misma, un sistema que minimiza la gravedad de las agresiones hacia las mujeres y que normaliza su exposición pública como objetos de consumo y burla. La violencia digital no nace con la tecnología, sino que es una continuación de las violencias históricas, es urgente transformar los valores sociales que siguen permitiendo que, en cada avance o en cada crisis, las mujeres sean siempre las primeras y principales afectadas. Mientras no cuestionemos de raíz estas estructuras de poder y desigualdad, la violencia siempre  encontrará nuevas formas de manifestarse.