Cinco casos de “DeepFake porn” en México. La ley es insuficiente: Olimpia Coral

EMEEQUIS.– Imagina que subes una fotografía a Instagram de las últimas vacaciones. Tienes puesto un bikini y estás en la playa. Tiempo después encuentras la misma fotografía que publicaste en otra red social o páginas de contenido adulto… la diferencia es que en esa imagen no tienes nada de ropa. 

Tú no lo autorizaste y sabes que ese desnudo no es real, pero vives las consecuencias de la violencia digital, como la ansiedad, vergüenza e incluso extorsión para bajar tus fotografías. 

Se trata de un tipo de violencia digital que se ha llamado “fake porn” o “deep fake porn”, en el que se altera o produce a partir de herramientas de inteligencia artificial las fotografías de mujeres sin su consentimiento, haciendo parecer que es una imagen de contenido sexual o donde se retira gráficamente sus prendas de vestir.

Esta práctica ha sido denunciada en redes sociales por mujeres que han sido víctimas de estos montajes. Incluso la cantante española Rosalía fue víctima de fotografías alteradas, en las que supuestamente mostraba los pechos. 

No es algo nuevo, ni tampoco una situación de la que nos hemos librado ni estamos muy lejos de experimentar en México. A pesar de que existen legislaciones para sancionar la violencia digital, puede que la tecnología nos haya rebasado. 

“Somos en México uno de los primeros países que habló de los contenidos alterados o manipulados”, dice Olimpia Coral. Foto:@OlimpicaCMujer.

CASOS EN MÉXICO 

El Frente Nacional para la Sororidad tiene identificados al menos cinco casos en México. La colectiva conformada por la activista de derechos digitales, Olimpia Coral, ha dado acompañamiento a cinco mujeres que han sufrido violación a su intimidad relacionados con la producción y difusión de contenido íntimo alterado o falso a través de la tecnología. 

El primero se registró en 2015, cuando las fotografías de una joven fueron alteradas para crear dos avatar de un videojuego que es utilizado principalmente por menores de edad. “Jugaban a violar y asesinar a una de sus compañeras”, cuenta en entrevista con EMEEQUIS Olimpia Coral Melo Cruz, defensora de espacios digitales libres de violencia.

En otro caso, la fotografía de una mujer fue alterada para simular que abría la boca y se le introducía un pene. Este contenido era una promoción a un supuesto video sexual. Mientras que, recientemente, acompañaron dos casos en los que las fotografías fueron modificadas a través de inteligencia artificial. 

Las víctimas de estas violencias y formas de explotación sexual suelen sufrir afectaciones en su entorno, como síndrome de persecución, segregación y burlas, configuración de su imagen social y alteraciones emocionales como estrés, ansiedad e incluso efectos físicos como sarpullidos en la piel o caída del cabello. 

LEY OLIMPIA, EFECTIVA PERO INSUFICIENTE

A pesar de la legislación existente en México, la tecnología ha rebasado las normas y manera de actuar para prevenir y erradicar las violencias digitales. 

La Ley Olimpia, como se conoce al conjunto de reformas para reconocer y combatir la violencia digital, como la publicación de fotografías íntimas sin consentimiento, está aprobada en prácticamente todos los estados del país. Sin embargo, ni la identificación del delito, ni las sanciones, comparten los mismos estándares y parámetros que propuso su creadora, Olimpia Coral. 

“Ninguna legislación es suficiente”, reconoce la activista contra la violencia digital, pero asegura que con las normas impulsadas desde 2019 y aprobadas en 2021, “somos un parteaguas importante, somos en México uno de los primeros países que habló de los contenidos alterados o manipulados”. 

De acuerdo con el INEGI, 3 de cada 10 mujeres entre 12 a 29 años en México han sido víctimas de algún tipo de violencia digital, como la publicación de fotografías, videos e información personal sin consentimiento, estos datos se encuentran recopilados en la encuesta del Módulo sobre Ciberacoso 2021. 

Pese a la aplicación de la Ley Olimpia en todo el país, “en el 63% de casos denunciados no han encontrado una acción de investigación positiva para las víctimas, ni siquiera un vínculo de nexo causal, o peor aún la iniciación del proceso por falta de pruebas”, reconoce Coral Melo. 

Esto se debe a la falta de aplicación de nuevas técnicas de investigación por parte de las Fiscalías, así como de peritos especializados para el seguimiento de estos delitos. 

Aún existen pendientes en la legislación para hacerla efectiva, afirma Olimpia Coral en entrevista con EMEEQUIS. “La proporcionalidad de las penas a nivel nacional, los orígenes de la compilación de los datos de prueba. Hace falta que veamos la manera que afecta esta violencia a mujeres y hombres. Falta meterle más manos, políticas y económicas, a la viabilidad operativa para llevar un proceso jurídico para las víctimas de violencia digital”, dice. 

Para los casos de violencia digital a través de imágenes manipuladas con inteligencia artificial están contempladas en algunas versiones de Ley Olimpia, acorde a la tipificación vigente en cada estado del país. 

“En muchos de ellos se reconoce como tipo penal el hecho de manipular o alterar, ahí podría entrar el tema de la inteligencia artificial o de otros auxiliares tecnológicos para manipular los contenidos”, explica Coral, quien afirma que esto también aplica en la compilación de información, como videos, audios o otro tipo de contenidos que podrían filtrarse. 

 Olimpia Coral en protesta feminista. Foto: @OlimpiaCMujer.

RESPONSABILIDAD DE USUARIOS Y EMPRESAS

El reto crucial para cualquier legislación ha sido obligar a una respuesta y responsabilidad a las empresas proveedoras y dueñas de las redes sociales, donde se difunden los contenidos, y de los servicios de herramienta de inteligencia artificial, donde se producen.

“Hemos intentado por todas las vías que haya sanciones para las empresas, pero esto no es una ley del ámbito local, sino federal; tiene que ver con la Ley de Telecomunicaciones”, explica Olimpia. 

Pese a que existen mecanismos de cooperación entre las empresas (Twitter, Meta, etc) y las instituciones de justicia en el país, no resultan efectivas y han tardado de seis meses a un año en dar material para proveer de pruebas a las investigaciones en curso. 

“No hay postura real de qué se está haciendo para evitar la manipulación de esta información y qué pasa cuando una mujer denuncia por parte de las empresas que se están tardando de 6 meses a un año en perfiles que no tienen una identidad real para dar a conocer los efectos causales del delito”, comenta. 

En las aplicaciones de la empresa Meta (Facebook, WhatsApp, Instagram, Messenger, Oculus, entre otras) se utiliza una herramienta antes llamada “Nunca sin mi consentimiento”, que verifica si se han subido a sus plataformas fotografías sin consentimiento cuando se trata de una extorsión por contenidos sexuales. Con ella se registran los datos del rostro de la persona que está siendo amenazada y al identificar alguna de sus fotografías podrá borrarse de la plataforma. 

Olimpia Coral afirma que el algoritmo digital es patriarcal, ya que no hay reglas claras, sanciones ni esquemas de actuación sólidos hacia las empresas, ni los usuarios que suben o alteran los contenidos. 

“Las empresas han servido como mercados de explotación sexual de este tipo de conductas y materiales”, dice. Sin embargo, refiere que la solución no está en satanizar el uso de internet, ni la inteligencia artificial, sino empezar a dar educación digital a las infancias para crear espacios de navegación éticos, seguros y responsables.

@GloriaPE_

Powered by Froala Editor