Deep Fake: los sin límites de la violencia digital

Cuando parece que se logra abarcar un terreno más amplio en la lucha contra la violencia de género, las agresiones a las mujeres, diversidades e infancias, el patriarcado también busca vías nuevas. Aquí se insertan las violencias digitales que por supuesto no son nuevas. La Ley Olimpia es un ejemplo del paso que estas han dado y a lo que se ha tenido que recurrir para frenarlas.

Las violencias machistas y patriarcales continúan buscando y encontrando camino en terrenos aún más alarmantes. La Ley Olimpia (en México) parece ya no ser suficiente, al menos así lo han demostrado las cada vez más continúas denuncias y señalamientos sobre el uso de la Inteligencia Artificial para alterar situaciones o crear escenarios que no existen y nunca existieron.

Rostros superpuestos, específicamente.

Las denuncias más recientes hacen sonar las alarmas: en Almendralejo, localidad española, once adolescentes denunciaron la circulación de fotos de ellas desnudas. Foto que nunca fueron tomadas. Fotos creadas con una aplicación de inteligencia artificial. De manera similar, en Chorrillo, Perú, alumnas del instituto St. George’s College se movilizaron para exigir justicia por compañeras víctimas de manipulación de imagen.

Los alcances han llegado hasta las instancias escolares, pero antes de las fotografías, las IA se habían utilizado para contenido de videos, con fines sexuales y sin consentimiento de la persona, a través del deep fake; esta tecnología que permite hacer que acciones que no ocurrieron puedan hacerse pasar como una realidad.

Si ya era escalofriante ver a personajes que ya fallecido “retornar” a la vida para volver a interpretar un papel, cantar o bailar, u observar a figuras hablar y decir cosas que nunca han dicho -visualmente de manera tan convincente y casi verosímil-, la alteración de situaciones cotidianas, el peligro de que personas que quizá conocemos personalmente puedan ser afectadas por el mal uso de estas tecnologías, es aún más agraviante.

Incluso con casos como los de Angela Aguilar y Rosalía -figuras públicas víctimas de estas agresiones- se le ha dado poco eco a las denuncias, sin ser tomadas demasiado en serio. «¿Cuál es el problema? Solo es una broma». Lo que aún no se logra asimilar es que, aún tratándose de fotomontajes y videos o fotografías falsas, en la amplitud y diversidad de las redes sociales, cualquier cosa puede tomarse por verdad.

¿Y las implicaciones para las víctimas? Las mismas que las de quienes se ven afectadas por la difusión material íntimo sin consentimiento: acoso tanto en la virtualidad como en el día a día, difamación, afectando a la salud mental y la integridad de la persona. “Es como sentirse violada”, describió una creadora de contenido, QTCinderella, cuando denunció que esta tecnología se había utilizado con su imagen con fines pornográficos.

Que la respuesta ante estas agresiones parezca algo lenta tiene que ver con que los nuevos alcances y usos de la Inteligencia Artificial se siguen monitoreando con disimulo, sin saber cómo frenarlas o sin querer hacerlo, porque, no es “beneficioso” pararlo aún. A pesar de que afecte a artistas, escritores, noticias y la integridad de cualquier persona, mayor de edad e incluso menor de edad (y es que también ya hay denuncias del uso de esta herramienta en niños).

En algunos lugares y sitios ya se está accionando o creando redes de apoyo…al menos contra el uso de la IA en cuestiones más generalizadas. Un ejemplo notorio -y con amplia cobertura de medios- son las huelgas en Hollywood. China también ha comenzado a regular su utilización. Pero aún faltan otros lugares, campos y perspectiva de género para parámetros adecuados y combatir lo que no parece tener un freno.

Ya existen páginas de acompañamiento y denuncia en línea. Desde el Frente Nacional para la Sororidad, a la que pertenece la misma activista Olimpia Coral, se identifican al menos 5 casos de deep fake hasta el pasado junio de este año. Para estos casos la Ley Olimpia no es completamente efectiva pero sí un primer paso para plantear nuevas formas de lidiar con el problema.

Lo cierto es que no deberían tener que existir estos sitios de apoyo, ni propuestas de leyes, un análisis, o siquiera un debate al respecto. No se combatiría algo si este no existiera, pero sin importar los avances y cambios que la IA pueda implicar, continuará un esfuerzo por frenarlas y, de ser posible, erradicarlas.