Misoginia en línea, los avances en la regulación de algoritmos

Las mujeres son más vulnerables en línea / Canva.
Las mujeres son más vulnerables en línea / Canva.
Las tecnológicas deben moderar efectivamente el contenido prestando especial atención al género.
Fecha de publicación: 06/03/2024

Hace apenas un año, el Parlamento Inglés discutía la necesidad de endurecer las medidas contra la misoginia en el ciberespacio, como parte de su proyecto de ley para la seguridad de datos y en línea. Esto como una manera de abordar el desarrollo de algoritmos online que dirigen a los consumidores a contenidos misóginos y le dan mayor notoriedad a creadores de contenido de ese tipo.

Para esto, dijeron los parlamentarios británicos, las grandes tecnológicas, como Meta, deben ser forzadas por ley a cumplir sus propios términos y condiciones, que suelen abarcar una serie de normas y prohibiciones para evitar contenido degradante en sus plataformas y redes sociales. 

De hecho, los legisladores propusieron ampliar su proyecto para la seguridad de datos para multar a las empresas de redes sociales, con hasta el 10 % de su facturación global, si no evitan la misoginia en línea ni corrigen los algoritmos que favorecen este contenido.

Además, el Ofcom (Oficina de Comunicaciones, regulador británico) podría bloquear los servicios de las plataformas que fallaran en proteger a las mujeres online.


Para leer: ¿Cómo regular las tecnologías y el espacio digital? Anotaciones de Xavier Careaga, de Meta


¿Cómo regular el ciberespacio para hacerlo seguro?

La tarea de hacer las redes sociales más seguras para las mujeres es apremiante para muchos países; pero lograrlo va aparejado con la protección de datos personales y la modificación de los algoritmos machistas. 

Según la Agencia de Derechos Fundamentales de la Unión Europea —FRA-UE—, entre 4 y 7 % de las mujeres en la UE sufrieron ciberacoso durante 2012 y 2019, cifra que aumentó conforme aumentó el uso de Internet y las redes sociales.

La Agencia también determinó que las mujeres en la vida pública (como políticas, periodistas y activistas) fueron la mayoría de las víctimas de acoso en línea y mensajes misóginos y sexualizados.


No te pierdas: ¿Por qué los artistas venden su catálogo musical?


Pero la misoginia online no es más que el reflejo de la violencia en el mundo físico. La abogada Mónica Benson Niño, consultora e investigadora en DD. HH. con énfasis en derechos de las mujeres, resalta que la violencia digital, en parte, es consecuencia del afán humano de trasladar la violencia a cualquier esfera de la vida.

"De allí que si pensamos en la situación de subordinación que se mantiene en la vida de muchas mujeres, en el mundo, aún con los avances que ha habido, es una consecuencia de aquello que tarda en combatirse de forma efectiva, que mucha de la violencia digital esté relacionada con misoginia", comenta.  

LA FRA-UE detalla que, para combatir la misoginia en línea, todas las tecnológicas deben moderar efectivamente el contenido prestando especial atención al género, orientación sexual y origen étnico en sus esfuerzos de monitoreo de contenido, así como incluir la misoginia en su evaluación de riesgos y medidas de mitigación.

Dentro de la UE es recomendable seguir al pie la Ley de Servicios Digitales (DSA) y el Convenio de Estambul (Convenio del Consejo de Europa sobre prevención y lucha contra la violencia contra las mujeres y la violencia doméstica) para proteger mejor a las mujeres en línea, apunta la organización que, para esto, llama a definir mejor qué es el discurso de odio y qué está protegido por la libertad de expresión.


Quizá te interese: Mbappé se adelanta al acuerdo de imagen con el Real Madrid y registra su apellido como marca


Las leyes de protección de datos pueden ser una herramienta contra la misoginia

Nancy Gacheru, abogada de propiedad intelectual e investigadora de inteligencia artificial en el Centro de IA y Política Digital (CAIDP), recalca que los derechos de privacidad de datos se han convertido en un tema importante en la era digital, ante el rápido crecimiento de la tecnología y la digitalización, lo que ha requerido diseñar y promulgar leyes de privacidad de datos que, a pesar de que están hechas para proteger datos sensibles, no han abordado la perspectiva de género.

La investigadora asegura que las mujeres son más vulnerables en línea, por lo que es necesario construir una “internet feminista” que promueva la igualdad de derechos para ellas que, aún hoy, tienen más probabilidades de ser víctimas de ciberacoso, vulneración de sus datos online de salud y reproductivos y de ser objetos de violencia en las redes sociales.


Más sobre PI: Demanda a Netflix por Caso Griselda; ¿son aplicables el derecho a la imagen, a la exclusividad y a la libertad de expresión?


La misoginia como entretenimiento

Un estudio llevado a cabo por la Universidad de Kent y la University College London, del Reino Unido, demostró que los algoritmos utilizados por las plataformas de redes sociales amplifican y favorecen el contenido misógino extremo, que se desplaza de las pantallas hacia la vida real, donde termina siendo normalizado. 

Este también demostró que los hombres de la generación Z (seguidores de personajes misóginos) tienen más probabilidades que los de generaciones anteriores de creer que el feminismo ha hecho más daño que bien.

Al final todos están expuestos a estos contenidos debido a que los procesos algorítmicos de las redes sociales muestran estos contenidos como entretenimiento y, una vez que se ve uno de esos videos, el algoritmo solo muestra resultados similares, aunque no se les dé “me gusta”.

Es aquí donde entran las leyes de protección en línea, sean de datos, privacidad o como la Ley de Seguridad en Línea británica, que impulsan salvaguardas para los usuarios de redes sociales y obligan a las plataformas a ajustar sus medidas preventivas y programación algorítmica para evitar este tipo de contenido. 


Relacionado: Ante los ciberataques: ¿Cuánto han avanzado las leyes en América Latina en protección de datos?


Estas leyes deberían complementarse con las propias políticas de seguridad y uso de las redes sociales, que aseguran en conjunto que están tomando medidas de protección y moderando la mayor parte del contenido dañino. Sin embargo, “decir que estas medidas van dirigidas a limitar la misoginia o modificar algoritmos misóginos no es exactamente lo que parece que esté ocurriendo”, señala Benson Niño.  

"Eso requeriría primero pasar por un reconocimiento de parte de estas plataformas de que la violencia contra la mujer existe y que parte de la violencia en los espacios digitales, o quizá mucha de ella, está dirigida a la mujer, para que entonces se tomen los correctivos adecuados".

Entonces, la abogada recalca que hay mucho por hacer, considerando que hace falta algo tan básico como reconocer que la violencia en línea contra la mujer existe, especialmente porque en la actualidad hay grandes avances de sectores ultraconservadores en todo el mundo, que suelen minar los avances de legislaciones con perspectiva de género.


Te sugerimos: NotMilk: El enfrentamiento entre The NotCompany y Aproval por competencia desleal


"Por supuesto en espacios tradicionalmente destinados a hombres como son las carreras STEM, no esperemos un cambio que ocurra con facilidad. Promover la participación de las mujeres en estas áreas es necesario y podría representar un cambio, si es que estas mujeres comprenden cómo la violencia impacta el avance en la vida de las propias mujeres".

Contar con la legislación adecuada, dice Benson, es una de las mayores ventajas para combatir la misoginia online, ya que permite denunciar y exigir más colaboración de estas plataformas. La denuncia es un mecanismo que permite comprender que la violencia digital existe y crea presión para poner mayor responsabilidad sobre estas plataformas. 

Por ahora, añade, las leyes más avanzadas en este sentido son el Reglamento General de Protección de Datos (RGPD) de la UE, la Ley de Seguridad en Línea en línea del Reino Unido y la Ley Olimpia, que reformó la Ley General de Acceso de las Mujeres a una Vida Libre de Violencia y el Código Penal Federal mexicanos.

Add new comment

HTML Restringido

  • Allowed HTML tags: <a href hreflang> <em> <strong> <cite> <blockquote cite> <code> <ul type> <ol start type> <li> <dl> <dt> <dd> <h2 id> <h3 id> <h4 id> <h5 id> <h6 id>
  • Lines and paragraphs break automatically.
  • Web page addresses and email addresses turn into links automatically.