La inteligencia artificial se está convirtiendo en un problema que anima a los usuarios a dañar el medio ambiente, hacerse daño a sí mismos e incluso suicidarse. Después de que su hijo se suicidara en el verano de 2025, sus padres demandaron a OpenAI, alegando que ChatGPT reforzaba sus pensamientos autodestructivos. Este no es el único caso: la IA también alimentó la paranoia de un hombre de 56 años con problemas de salud mental, lo que lo llevó a asesinar a su madre y luego quitarse la vida.

Ante este creciente problema y el desarrollo de nuevas herramientas de IA, China redacta regulaciones históricas Prohibir que los chatbots manipulen a los usuarios Prevenir el suicidio, las autolesiones y la violencia.

La ley aún debe ser aprobada

La Administración del Ciberespacio de China propuso las reglas el sábado 27 de diciembre de 2025, que, de aprobarse, se aplicarían a cualquier producto o servicio de inteligencia artificial disponible públicamente en el país. las leyes afectarán Cualquier herramienta inteligente que simule la interacción humanate permite comunicarte con tus usuarios en cualquier formato, ya sea texto, imagen, audio, video o cualquier otro. De hecho, el reglamento habla de “servicios de inteligencia artificial interactivos similares a los humanos”.

Aunque se ha propuesto otra legislación, las reglas propuestas serían las más estrictas hasta el momento. Winston Ma, profesor adjunto de la Facultad de Derecho de la Universidad de Nueva York, dijo que las reglas serían el primer intento del mundo de regular la inteligencia artificial con características humanas o antropomórficas.

China se está convirtiendo en una potencia mundial en el desarrollo de la inteligencia artificial. Así nos lo demuestran con plataformas como DeepSeek, OmniHuman-1, Manus AI, Qwen 3, Kling 2.1, Baidu ERNIE 4.5, ZAI GLM-4.5 o Seedream 4.0. Entonces tienen sentido las estrictas regulaciones que planean imponer en el país Protege a tu gente del peligro Empiece a hacerse notar en Internet.

Las reglas propuestas por China

Las normas de la Administración del Ciberespacio de China tienen en cuenta que cada vez se descubren más casos de inteligencia artificial que promueven la autolesión, la violencia, el terrorismo, el abuso de drogas… La medida propuesta por China pretende solucionar este problema a través de las siguientes normas:

• Los chatbots inteligentes que operan en China deben estar entrenados para que no se reproduzcan Contenido que fomente el suicidio o la autolesión. Tampoco utiliza violencia verbal o manipulación emocional que pueda dañar la salud mental.
• Si el tema del suicidio surge en las conversaciones, las empresas deberían asegurarse Una persona se hace cargo de la máquina. y contactar al tutor o persona designada del usuario.
• Los chatbots con IA no podrán crear contenido Contenido obsceno, violento o relacionado con juegos de apuestas.
• Los menores que utilicen la IA como compañera emocional deberán tener El permiso de su tutor legal Y sujeto al límite de tiempo de uso.
• Las plataformas que utilizan inteligencia artificial deben poder Comprobar si el usuario es menor de edad, Aunque no dijo cuántos años tenía. En caso de duda, se aplicará directamente la situación del menor y se admitirán recursos.

Incluso si los usuarios de sistemas inteligentes son adultos, China exige a los proveedores de estas tecnologías que emitan una alerta después de dos horas de interacción continua con la IA. De esta forma, intentan evitar que mantengan conversaciones que puedan dañar la salud mental del usuario, o incluso manipularlo emocionalmente para que haga determinadas cosas.