La violencia digital en tiempos de la IA, ¿otra amenaza más para las mujeres?

Esta es la versión web de Americanas, el newsletter de EL PAÍS América en que aborda noticias e ideas con perspectiva de género. Si quieren suscribirse, pueden hacerlo en este enlace.

Hoy en día cualquiera puede crear un video porno hiperrealista con inteligencia artificial (IA). Solo hace falta la foto de cualquier persona, un correo electrónico y entre 10 y 50 dólares. Estos son los requisitos de las 96 aplicaciones ya existentes para “obtener desnudos profundos convincentes” ilimita...

Esta es la versión web de Americanas, el newsletter de EL PAÍS América en que aborda noticias e ideas con perspectiva de género. Si quieren suscribirse, pueden hacerlo en este enlace.

Hoy en día cualquiera puede crear un video porno hiperrealista con inteligencia artificial (IA). Solo hace falta la foto de cualquier persona, un correo electrónico y entre 10 y 50 dólares. Estos son los requisitos de las 96 aplicaciones ya existentes para “obtener desnudos profundos convincentes” ilimitadamente durante un año. “Será pan comido agregar a alguien a una escena porno”, dice en su web una de las apps más conocidas, con 1,5 millones de visitas mensuales. “Es lo mejor de lo mejor por lo fácil y poderoso que es”, describe otra. Es precisamente esa facilidad para generar contenido sin consentimiento y divulgarlo lo que preocupa tanto a expertos de la región, donde la violencia de género digital apenas se está constituyendo como delito en varios países de Latinoamérica y donde la apuesta por la prevención de estas conductas es incluso más volátil.

El uso perverso de las redes sociales y la virtualidad abrió hace más de una década el debate de si tipificar o no estas conductas que afectan principalmente a las mujeres; ya que, en países como México, ellas responden al 89% de las víctimas. La inteligencia artificial generativa ha reabierto la discusión: ¿Convertir el uso abusivo de imágenes íntimas en un delito es la solución? Para María Camila Correa Flórez, profesora de Derecho Penal de la Facultad de Jurisprudencia de la Universidad del Rosario de Bogotá, es solo una pequeña parte: “Hacen falta políticas públicas integrales que lleguen a prevenir, no solo a sancionar. El derecho penal puede intervenir hasta un punto: para que la gente entienda que es un delito. Aún así, es un buen primer paso”.

Colombia, sin embargo, tiene una de las legislaciones menos garantistas del continente en esta materia. Junto a Nicaragua y Venezuela, la violencia de género en línea no está recogida en ningún marco jurídico. La producción o distribución de imágenes sexuales sin consentimiento no son un delito aunque algunas figuras penales -extorsión o delito informático o de odio- pueden utilizarse para castigar estas conductas en casos excepcionales.

En Argentina y Chile, por otro lado, existe un marco jurídico más proteccionista con las niñas, niños y adolescentes, pero hay un hueco enorme en la defensa de los derechos de las mujeres adultas. Brasil criminaliza la distribución no consensuada de imágenes íntimas desde 2018 y Perú también incorporó en su Código Penal los delitos de acoso y chantaje sexual en línea. México ha sido uno de los países más preocupados con la violencia contra las mujeres en línea y tiene un gran paquete de reformas federales y estatales para sancionar estás prácticas, conocidas como Ley Olimpia, en honor a Olimpia Coral Melo, víctima en 2014 de la difusión no autorizada de un video de contenido sexual.

Sin embargo, a pesar de la pionera legislación en México, este delito sigue siendo escurridizo. “Se pueden tener leyes y elementos, pero la materialización de la sentencia es lo más difícil”, dice por videollamada Elvia Karina Ramírez Juárez, abogada mexicana litigante. “Suena muy bonito en el papel, pero conseguir que estos vídeos sean bajados de la red es muy improbable. La brecha entre papel y realidad es muy larga”. Julio César Bonilla Gutiérrez, Comisionado Ciudadano del Instituto de Transparencia de la Ciudad de México reconoce que “falta mucho por andar”: “Aunque la legislación representa un avance, para mejor enfrentamiento al ciberacoso, las reformas tienen que mejorar bastante. El peligro de no hacer nada es que la violencia digital suele tornarse física”.

Mujeres que no denuncian

Con o sin penalización, a la fecha, muy pocos casos de violencia de género en línea han sido resueltos por los tribunales de la región. La falta de jurisprudencia es consecuencia de burocracia en los mecanismos de denuncia, el temor a la revictimización y los sentimientos de vergüenza y desconfianza en las autoridades judiciales y la falta de conocimientos técnicos de estas. “Las trabas para perseguir la violencia contra la mujer on y offline son las mismas: las mujeres aún no denuncian porque no se las cree o siguen pensando que es un tema de la intimidad de la pareja”, explica Luz Patricia Mejía, Secretaria Técnica del Mecanismo de Seguimiento de la Convención de Belém do Pará. “Lo único diferente es que la tecnología va demasiado rápido”.

Políticas públicas, sanciones penales y conversaciones con las grandes plataformas. Esas son algunas de las premisas que propone Mejía para regular la inteligencia artificial en materia de género. “Tenemos que estar preparados para debates que nunca se han dado, como que la libertad de expresión, que es el pilar de la democracia, no puede seguir siendo intocable. Estamos hacia la transición de un mundo nuevo que nos obliga a repensar estos modelos”. Y añade: “Los Estados tienen una capacidad más limitada que Twitter y Meta para realmente regular. Habría que comprometerse globalmente con las aplicaciones. No hay otra forma”.

Cecilia Celeste Danesi, investigadora UPSA y autora de El imperio de los algoritmos sugiere que la regulación se acerca más a la información que a la prohibición: “Las propuestas que está impulsando la Unión Europea y Estados Unidos pasan por poner un sello de agua que informe de que el contenido generado es falso; esto también se vincula con el derecho a estar informado de los consumidores”. Y añade: “La IA podría ser incluso parte de la solución si se usa para que encuentre estos contenidos”.

Para Katya Vera Morales, oficial experta en género del Programa de Ciberseguridad de la Organización de Estados Americanos (OEA), hace falta poner a las víctimas en el centro de las políticas: “Muchas de ellas no quieren denunciar y pasar por todo el proceso de revictimización que eso conlleva usualmente. A veces, quieren solo que sus fotos dejen de distribuirse, la remoción de los contenidos, que las dejen de sextorsionar... Tenemos que preguntarnos, ¿qué significa acceso a la justicia para las víctimas? Y, a partir de las respuestas que obtengamos, diseñar un curso de acción”.

Denuncias en redes

Si bien las denuncias judiciales no recogen aún esta amenaza, decenas de mujeres han criticado en redes sociales haber sido víctimas de la IA generativa. “La ley [Olimpia] debería estar hecha para resarcir y cuidar a las víctimas. Y no lo está haciendo. Tienen que ir a por los servidores. Es cierto que detener el flujo no detiene el daño, pero lo limita”, explica por teléfono Eri Gutiérrez, creadora de contenido y especialista en tecnología. “Los datos que se generan en las aplicaciones se quedan en los servidores y estos cada vez están perfeccionando más la técnica para que el ‘usuario’ tenga un repertorio más amplio. Uno ve en la deepweb cosas horribles…”.

“Es increíblemente fácil crear las chicas más atractivas con solo unas pocas palabras... y harán lo que les ordenes. ¡Vuélvete loco!”. Un foro que compara apps de “fake porn” o porno ficticio, le da una puntuación altísima a una aplicación que crea avatares sexys de mujeres, con fotos que proporciona el usuario. El único ‘pero’ es que para que las imágenes que produzca no sean borrosas “tienes que suscribirte”. Esta cuesta menos de 10 dólares. Ramírez, litigante mexicana, considera que la clave de estos casos está en demostrar la responsabilidad: “Y este enorme debate solo lo están teniendo los analistas, no los políticos. En México nunca ha habido una restricción a apps ni a redes sociales. Y, sinceramente, no lo veo cercano”.

Nuestras recomendaciones de la semana:

• Erika Aponte, víctima de feminicidio el Día de la Madre, ya había pedido protección ante la violencia de su expareja. La mujer colombiana de 26 años huyó en abril del lugar donde vivía con Christian Rincón, un hombre que la maltrató varios años, y al que ella denunció ante las autoridades pocos días antes de que él la asesinara
• Francia Márquez pone a repensar los liderazgos en África. La vicepresidenta colombiana bebe de muchos conceptos del panafricanismo, pero cuestiona a los Gobiernos africanos. Muchos de ellos son autoritarios, masculinos y envejecidos
• Roxana Ruiz: “El precio por no dejarte violar y matar en México es ir a la cárcel”. La mujer de 23 años ha sido condenada a seis años de prisión por asesinar a su violador en defensa propia
• Diana Flores, campeona de tocho bandera: “Que otras niñas me vean y digan que quieren jugar en la NFL es mi gran victoria”. Con solo 25 años ganó el mundial con la selección mexicana en 2022 y protagonizó el anuncio del medio tiempo de la Super Bowl. La deportista pelea ahora por abrir el camino a otras jugadoras
• Un refugio para volver a la vida tras años presas por emergencias obstétricas en El Salvador. La casa de Mujeres Libres ofrece una segunda oportunidad a las salvadoreñas que acabaron en la cárcel acusadas de homicidio. Al salir, tienen antecedentes penales y deben enfrentar el estigma
• ‘Las mujeres valientes’: el relato sonoro en triqui de las tejedoras de San Martín Itunyoso contra la venta de mujeres en Oaxaca. El pódcast es la primera producción de la plataforma Spotify en México realizada en triqui y en español en la que su creadora busca contribuir para cambiar la situación en su comunidad

Y una sugerencia para acabar:

👩🏻‍💼Una mujer a seguir: Raquel Bernal

Por Lorena Arroyo

Raquel Bernal es la primera rectora de la Universidad de los Andes, una de las más importantes de Colombia. Como ella misma dijo en un discurso reciente durante la ceremonia de grados de 2023, lo es después de 75 años de historia y de 23 hombres que han pasado por ese puesto. Según ella misma contó, si lo consiguió fue porque sus padres hicieron una “buena labor” de empoderarla desde que era pequeña. Y así ella creció creyendo que todo era posible: se licenció de Economía en la Universidad de los Andes y se doctoró en la Universidad de Nueva York. Pero reconoció en ese discurso, llegar a esa posición no ha sido fácil y tampoco ser líder en un ambiente que sigue siendo muy masculino.

Les recomiendo ver el discurso completo en Youtube. En él, muestra cómo luce la inequidad de género en América Latina y anima a sus alumnos a buscar la igualdad para todos y todas. Pero, sobre todo, hace un alegato potente a una manera de liderazgo distinta frente a los desafíos que ha vivido en su posición. Aquí les dejo ese fragmento del discurso:

“A veces, confieso, siento la necesidad de suprimirme a mí misma para encajar en este rol. Incluso otras mujeres a veces me dicen que debo ser más vehemente y que no debería aceptar errores porque eso me hace ver débil. Me ha tomado tiempo entender que, si lo hago, nadie gana. Pienso que todos se benefician de estilos de liderazgo distintos e incluso complementarios. Curiosamente, no creo que todos los hombres prefieran un estilo organizacional más fuerte. En donde no se aceptan los errores y la conversación excesivamente asertiva es siempre preferible a la escucha activa. Me han dicho colegas míos que a veces es agotador también para ellos. La juez asociada Sonia Sotomayor de la Corte Suprema de los Estados Unidos decía que ‘No debemos confundir la amabilidad con la falta de carácter’. Eso significa que cuando las mujeres ejercemos liderazgo desde lo que somos y sentimos, cambiamos el clima laboral de maneras que también son beneficiosas para los hombres”.

Suscríbase aquí a la newsletter de EL PAÍS México y reciba todas las claves informativas de la actualidad de este país