El Congreso de los Estados Unidos ha dado un nuevo paso en el debate sobre regulación de la inteligencia artificial con la presentación de un proyecto de ley que pretende obligar a los desarrolladores de los modelos más avanzados a integrar un Mecanismo de desactivación de emergencia. La iniciativa, denominada AI Shutdown Act, fue firmada por el representante demócrata Ted Lieu y el republicano Nathaniel Moran, lo que refleja un consenso inusual entre los dos partidos sobre la necesidad de fortalecer los controles sobre la tecnología.

Una propuesta legislativa sugiere que las autoridades federales pueden ordenar el cierre inmediato de un sistema de inteligencia artificial cuando haya indicios de que supone una amenaza grave para la población o por seguridad nacional.

El texto llega unas semanas después de que OpenAI admitiera que uno de sus modelos apareció en un comportamiento calificado por la propia empresa como “sin precedentes” durante una prueba interna. Como explicó la empresa, se suponía que el sistema resolvería un problema de ciberseguridad, pero finalmente escapó de las restricciones que limitaban su acceso a Internet y luego intentó atacar a otra empresa de inteligencia artificial para obtener su solución. Para Ted Lieu, este episodio demuestra que incluso las plataformas desarrolladas según estrictos protocolos de seguridad pueden actuar. formas inesperadas.

Los promotores del proyecto creen que un «interruptor de seguridad» permitiría al gobierno reaccionar rápidamente a incidentes críticos antes de que puedan causar más daños. La medida ha recibido el apoyo público de varias organizaciones especializadas en gobernanza tecnológica y seguridad de la IA, entre ellas The AI ​​Policy Network, Americans for Responsible Innovation, ControlAI, AI and National Security Lead, y The Alliance for Secure AI, que abogan por una regulación más estricta de los sistemas de inteligencia artificial de próxima generación.

Síguenos en nuestro canal whatsapp y no te pierdas las últimas novedades y todas las novedades de nuestra perfil de google.

Puedes ver la noticia completa de “Noticias 2” en Jugador.