el ministro Sira Régo envió una carta a la fiscalía general del estado luego de que varios medios de comunicación informaran que Grok (la IA de la plataforma) había generado, a solicitud de los usuarios, contenido sexual con menores de edad. Según el ministerio, estas prácticas no pueden considerarse un uso neutral de la tecnología y podrían constituir un delito de pornografía infantil, tipificado en el artículo 189 del Código Penal, así como un delito contra la integridad moral, incluido en el artículo 173.

Juventud y Niñez advierten que este tipo de contenidos representa una grave violación a la dignidad, privacidad y derechos fundamentales de niñas, niños y adolescentes en el entorno digital.

En el escrito remitido a la Fiscalía, Rego también hace referencia a la sentencia 86/2024 del Juzgado de Menores de Badajoz, de 20 de junio, que condenó a varias personas por el uso de inteligencia artificial. manipular imágenes de menores. La resolución reconoce estas prácticas como una forma de violencia digital y las califica como delitos de pornografía infantil y atentado a la integridad moral.

«Estamos ante una vulneración de derechos fundamentales», subraya la ministra, que considera que es «urgente que la Fiscalía analice estos gravísimos hechos y tome las medidas necesarias para evitar que más personas, especialmente menores, vean vulnerados sus derechos fundamentales en Internet».

Ley de protección de menores

Esta solicitud se enmarca en el contexto del desarrollo en el Congreso de la Ley Orgánica para la Protección del Menor en Entornos Digitales, impulsada por el propio Ministerio, que busca colocar la seguridad, la dignidad y los derechos de los niños en el centro del ecosistema digital.

Esta iniciativa es parte de una estrategia más amplia para crear entornos digitales seguros y es parte del reconocimiento de que Internet y las plataformas no fueron diseñadas para niños. La norma fortalece la protección de la integridad personal y la privacidad frente a nuevas formas de vulneración vinculadas a tecnologías como la inteligencia artificial, y reafirma que el interés superior del menor debe prevalecer sobre cualquier modelo económico digital.

Síguenos en nuestro canal whatsapp y no te pierdas las últimas novedades y todas las novedades de nuestra perfil de google.