Lucha contra el «salvaje oeste digital». Es el objetivo que se ha marcado el Gobierno y para el que, el presidente Sánchez ha anunciado cinco medidas clave. Él se pone el centrarse en las plataformas y la responsabilidad penal de sus directores ejecutivoscon la clasificación de Nuevos delitos por manipulación de algoritmos. y amplificar deliberadamente contenidos ilegales. También se perseguirá la creación y difusión de contenidos sexualizados con IA en menores.

Detallamos las medidas legales y administrativas que el Gobierno tiene previsto aprobar la próxima semana para tener entornos digitales más seguros y cómo se llevarán a cabo.

Responsabilidad penal de los gestores de plataformas

El Gobierno propondrá una reforma del Código Penal para que los administradores de plataformas digitales puedan ser considerados penalmente responsables por las infracciones cometidas en sus servicios, particularmente cuando incumplen una orden de eliminación de contenidos ilícitos. Esto implica que altos ejecutivos de empresas tecnológicas pueden ser considerados penalmente responsables por inacción deliberada respecto a este tipo de contenidos.

Esta medida se incluirá en un Proyecto de Ley Orgánica que será enviado al Parlamento. La reforma introducirá una régimen específico de responsabilidad penal para los responsables últimos de las plataformas, poniendo fin a la impunidad derivada de la falta de control efectivo sobre los contenidos que se difunden bajo su supervisión.

Penalización de la manipulación algorítmica y amplificación de contenidos ilícitos

El Manipulación de algoritmos que facilita la amplificación deliberada de contenidos ilegales.s, y la alteración del funcionamiento de los sistemas automatizados de tratamiento de datos. Se reconoce que estos contenidos no surgen espontáneamente, sino que son creados, promovidos y amplificados por actores específicos y por algoritmos diseñados para maximizar los beneficios. Francia ya ha avanzado en su legislación sobre enjuiciamiento al reconocer el impacto de la manipulación de algoritmos e introdujo delitos similares en su Código Penal en 2023.

Al igual que la primera medida, esto se transmitirá a través de un Proyecto de Ley Orgánica que será tramitado en el Parlamento. La norma incorporará responsabilidad penal para las plataformas cuyos algoritmos amplifiquen contenidos ilegales, superando la idea de que la tecnología es neutral.

Creación de la ‘Huella del Odio y la Polarización’

El Gobierno desarrollará un sistema denominado ‘Huella de Odio y Polarización’, destinado a rastrear, medir y hacer visible cómo las plataformas digitales fomentan la polarización social y amplifican el odio. El objetivo es transformar un fenómeno hasta ahora opaco en un elemento cuantificable y evaluable, generando un ranking de peores a mejores plataformas en relación a la presencia de odio y polarización en las mismas.

Esta medida se materializará a través de la desarrollo de una herramienta específicalo que permitirá un análisis más riguroso del comportamiento de las plataformas y sus algoritmos en relación a la polarización y la promoción del odio. La información generada permitiría debates abiertos sobre el control de plataformas y los mecanismos para promover entornos digitales más seguros.

Prohibición de acceso a redes sociales a menores de 16 años

España prohibirá el acceso a las redes sociales a menores de 16 años, siguiendo los pasos de otros países como Francia y Australia. Además, las plataformas estarán obligadas a implementar sistemas efectivos de verificación de edadque van más allá de simples declaraciones formales, garantizando barreras reales y efectivas.

Esta medida se desarrollará mediante una prohibición expresa de acceso a menores de edad en un Nuevo artículo del Anteproyecto de Ley para la Protección del Menor en entornos digitales. Esta prohibición, y bajo el artículo 28 del Reglamento de Servicios Digitales (DSA) de la UE y las directrices publicadas por la Comisión, incentivará a las plataformas y redes sociales a implementar sistemas de verificación seguros para garantizar el cumplimiento de esa legislación nacional.

Tolerancia cero ante infracciones vinculadas a contenidos sexualizados de menores

El Ejecutivo actuará con tolerancia cero ante posibles infracciones cometidas por plataformas como Grok o TikTok relacionados con la generación con IA de contenidos sexualizados vinculados a menores o su difusión.

El Gobierno trabajará conjuntamente con todos los poderes e instituciones, especialmente el Ministerio Fiscal, para prevenir, detectar, investigar y, en su caso, promover la justicia frente a las infracciones detectadas.