Solicitudes realizadas a una herramienta de inteligencia artificial vinculada a la red social Se hicieron virales las pasadas Navidades. Lo que comenzó como una tendencia en las redes sociales ahora dio lugar a una investigación judicial, luego de que se detectara que se estaba produciendo este uso. También se aplica a imágenes de menores..

La Fiscalía General del Estado analiza si el cómo funciona esta herramienta haber cometido delitos relacionados con la pornografía infantil. El énfasis está puesto en la generación de imágenes sexuales basadas en fotografías reales, práctica que, en el caso de menores, tiene un efecto especial gravedad penal. La propia plataforma reconoció que existían fallas de seguridad en el sistema, las cuales ya fueron corregidas para evitar este tipo de solicitudes.

La investigación intenta determinar si la red social incurrió en alguna responsabilidad por permitir, aunque sea temporalmente, este uso abusivo de su tecnología.

El papel del usuario

La empresa insiste en que la responsabilidad principal recae en los usuarios que utilizar la herramienta ilegalmente. Sin embargo, las autoridades enfatizan que las plataformas digitales tienen la obligación de establecer controles efectivos que impidan la creación y difusión de este tipo de contenidos, especialmente cuando afecta a menores de edad.

La multiplicación de estas prácticas ha puesto de relieve ¿Qué tan rápido se puede utilizar la inteligencia artificial? vulnerar derechos fundamentales, como la intimidad o la dignidad personal.

Un marco legal más estricto

Las llamadas falsificaciones sexuales generadas por inteligencia artificial ya están tipificado como delito contra la integridad moral. La legislación actual considera ilegítima la manipulación y distribución de imágenes personales sin consentimiento o advertencia clara de que se trata de un contenido manipulado.

El objetivo de este reglamento es Detener casos como los registrados en La Rioja o Almendralejo en 2024donde varios jóvenes fueron declarados culpables de crear y distribuir imágenes falsas de compañeros de secundaria desnudos utilizando inteligencia artificial.

Expertos en ciberseguridad y derecho digital advierten que Este tipo de prácticas pueden incrementar si no se fortalecen los mecanismos de control y la educación digital. La combinación de tecnologías cada vez más accesibles y la viralidad en las redes sociales multiplica el impacto de estos contenidos y el daño causado a las víctimas.

Síguenos en nuestro canal whatsapp y no te pierdas las últimas novedades y todas las novedades de nuestra perfil de google.