Expertos en la materia han propuesto, como medidas para combatir la violencia de género digital, el uso de inteligencia artificial (IA) para detectar casos de lenguaje abusivo y herramientas que identifiquen y eliminen contenidos no consentidos; y la adaptación del sistema judicial actuales para proteger los derechos en la era digital.

Lo han hecho en el marco del debate’Cómo afrontar la violencia de género digital’, que tuvo como sede el Palau Macaya de la Fundación La Caixa en el marco del ciclo ‘Nuestros derechos en la era digital’, organizado junto con el Observatorio de Derechos Digitales, informa la Fundación La Caixa en un comunicado.

En esta sesión participaron Eleonora Espósito, investigadora de la Universidad de Navarra y destacada experta nacional de la Comisión Europea; Yolanda Domínguez, artista visual, activista y consultora y formadora en comunicación igualitaria; y Gabriel González Fernández, fiscal adjunto de Delitos Informáticos. Olivia Blanchard, consultora e investigadora especializada sobre el impacto de la tecnología en la sociedad y director científico del ciclo, ha sido el encargado de moderarlo.

Este es el primera de las cuatro sesiones del ciclo, una iniciativa público-privada impulsada por Red.es, entidad adscrita al Ministerio para la Transformación Digital y Función Pública, y cuyo objetivo es que expertos abran un debate sobre el impacto de la digitalización en nuestros derechos en diferentes ámbitos de la vida: las relaciones afectivas, la salud, el trabajo y nuestra relación con la administración pública.

En este primer bloque del debate, los expertos han destacado la gravedad de la violencia de género digital. Eleonora Espósito ha explicado que, mediante amenazas, acoso, difusión no consentida de contenidos íntimos o campañas de desprestigio, miles de mujeres y niñas son agredidas a diario. en redes sociales, foros y plataformas de mensajería.

La experta ha calificado la violencia de género digital como «una extensión de la violencia machista adaptada al siglo XXI y que debe afrontarse con la misma seriedad, recursos y urgencia que cualquier otra forma de violencia de género.»

Añadió además que «violencia de género digital “Se muestra de diferentes formas, como a través de la sextorsión o el acoso ordenado, violencia digital que pueden sufrir las mujeres que ocupan cargos públicos”.

Por otro lado, Gabriel González ha hablado desde su experiencia como fiscal delegado en delitos informáticos sobre los cambios que ha visto en los últimos años, en cuanto al tipo de violencia en general y en concreto, en la violencia de género, además de abarcar retos que propone el uso de nuevas tecnologías.

En este sentido, González destacó que «del mundo analógico se ha pasado al digital, y que son necesarias las reformas legislativas pertinentes para que la ley se adapte».

El fiscal también ha advertido, poniendo ejemplos como que «a través de la tecnología se puede hacer mucho daño y que los tribunales deberían, por ejemplo, prohibir a los agresores poder comunicarse a través de ellas». Para González, “actualmente cualquier delito se puede cometer a través de redes, traduciéndose en violencia de género, lo cual es muy peligroso. Por este motivo se debe modificar el código penal.«.

Fórmulas para combatir la violencia de género

Espósito ha subrayado que hay dos medidas importante a nivel europeo: «la nueva legislación europea, representada por la Directiva sobre Violencia contra las Mujeres y Violencia Doméstica; y la Ley de Servicios Digitales (DSA), que marca un punto de inflexión, ya que, por primera vez, la violencia de género digital se reconoce de forma clara y explícita dentro del marco jurídico europeo».

La investigadora de la Universidad de Navarra también ha dicho que «es importante reconocer que la violencia de género digital es un fenómeno global pero también muy local, porque hay muchas diferencias entre los estados miembros y hay que tenerlas en cuenta».

También añadió que «la Inteligencia Artificial (IA) puede ser una herramienta para combatir la violencia de género digital: desde algoritmos capaces de detectar lenguaje abusivo, hasta tecnologías que identifiquen y eliminen contenidos no consentidos o impidan dinámicas de Grooming». Pero el experto de la CE también ha advertido que la misma IA utilizada sin ética ni supervisión, «puede amplificar el daño, por ejemplo, generando deepfakes pornográficos».

Domínguez, por su parte, ha destacado el potencial de internet para amplificar y dar visibilidad a determinados movimientos que pueden contribuir a denunciar la violencia de género, poniendo como ejemplo el #Metoo y ha alertado del peligro de los algoritmos y las empresas detrás de esto. «Pensamos que China ejerce la censura a través de su gobierno y que EE.UU. representa la libertad de expresión; pero en realidad quienes censuran los contenidos son las empresas propietarias de las aplicaciones y condicionan todo lo que vemos a través de algoritmos».

Para González, «La IA es una herramienta de doble filoya que se puede utilizar para crear imágenes y vídeos falsos, pero también se puede utilizar para identificar casos de violencia, etc”. Respecto a cómo la aplicamos en nuestro trabajo, el experto añadió que “la IA nos ayuda a darnos una aproximación, es un patrón de enseñanza, pero siempre tiene que intervenir un factor humano”.

Mirando hacia el futuro

Con una perspectiva europea, Espósito ha cubierto regulación digital y comentó que “es crucial consolidar los recientes avances regulatorios, fortalecer los mecanismos de rendición de cuentas y continuar implementando la legislación europea actual, para garantizar una protección real y efectiva”.

Por su parte, Domínguez ha afirmado que en las nuevas tecnologías el anonimato se puede controlar, para detectar posibles agresores digitales porque «no tiene sentido en una democracia en la que las mujeres tenemos que limitar nuestra participación online porque hay hombres y bots que cometen violencia digital».

Además, añadió que «muchas mujeres vivimos en un búnker digital, cerrando la posibilidad de que puedan comentar sobre nosotras o directamente borrando nuestras cuentas de las redes». La experta también ha abogado por la responsabilidad de «los usuarios de estar atentos a los espacios que no respetan ni defienden a las mujeres para poder abandonarlas».