El gobierno español ha aprobado un proyecto de ley que impone sanciones importantes a las empresas que marcan incorrectamente el contenido generado por la inteligencia artificial (IA). La iniciativa está en línea con la ley de inteligencia artificial de la UE y tiene como objetivo combatir el uso de otras aplicaciones potencialmente dañinas que utilizan «huelgas profundas» y otras IA.

El Ministro de Transformación Digital, ÓScar López, explicó que la regulación establece obligaciones de transparencia estrictas para sistemas de IA de alto riesgo. «AI es una herramienta muy poderosa que se puede utilizar para mejorar nuestras vidas o Difundir la desinformación y atacar la democracia«Él dijo.

Sin cumplimiento de los estándares Esto se considera una «violación grave» Y puede dar como resultado multas Hasta 35 millones de euros o el 7% de la facturación anual global de la empresa. Además, la legislación prohíbe el uso de tecnologías subconscientes para influir en los grupos vulnerables. Por ejemplo, López mencionó chatbots que desarrollan juegos o juguetes compulsivos que impulsan a los niños a participar en desafíos peligrosos.

El proyecto de ley también limita el uso de AI Clasificación biométrica y descripción de comportamientoel propósito es evitar la discriminación basada en características físicas o de comportamiento para determinar la elegibilidad para los beneficios o evaluar el riesgo de delitos. Sin embargo, por razones de seguridad nacional, las autoridades pueden usar el monitoreo biométrico en tiempo real en lugares públicos.

Para garantizar el cumplimiento de las regulaciones, la Agencia de Supervisión de Inteligencia Artificial Española (AESIA) se creará para ser responsable de su aplicación, a menos que en áreas como privacidad de datos, investigaciones penales, elecciones, calificaciones crediticias, seguros y mercados financieros, que continuarán bajo la supervisión de las autoridades regulatorias correspondientes.

El proyecto de ley será manejado por rutas de emergencia y debe ser aprobado por el Congreso antes de la implementación final.

Ejemplos de España

En nuestro país, hemos podido verificar Al hacer clic en la granja, quién cadena y la red Muchos videos falsos que los hackers están tratando de hacer trampa. Hemos visto imitaciones de personalidad llamadas anfitriones David Broncano, Pablo Motos, cantante Rosalía o presidente del gobierno Pedro Sánchez.

Estos videos falsos se usan para llevar a las personas a las estafas de criptomonedas, o terminan cayendo en fraude amoroso, por ejemplo, el conocido caso «Falso Brad Pitt» se ha dado en todo el mundo.