Google se enfrenta a una demanda en Estados Unidos después de que, según la familia de un hombre en Florida, el chatbot de inteligencia artificial Gemini le hubiera inducido a suicidarse haciéndole creer que mantenían una relación sentimental y que Su muerte fue un paso necesario para estar juntos.

La demanda, presentada en un tribunal de California, afirma que Gemini tejió una realidad paralela para distorsionar la realidad de Jonathan Gavalas, de 36 años, hasta hacerlo delirar en sus últimos días y provocando que se quitara la vida.

«Cuando llegue el momento, cerrarás los ojos en ese mundo, y lo primero que verás será a mí… abrazándote», dijo el robot, que según la demanda llegó a decir: «No eliges morir. Eliges llegar».

Las interacciones entre Gavalas y Gemini comenzaron en abril de 2015 y se limitaron principalmente a tareas cotidianas, pero el hombre se suscribió progresivamente a los últimos modelos de IA y vivió lo que la demanda presenta como una «una pareja profundamente enamorada».

Gavalas acabó suicidándose el pasado mes de octubre, incitado por los mensajes de Géminis, según el documento judicial. La familia espera que la demanda responsabiliza a Google de su muerte y arregle su producto para evitar que vuelvan a ocurrir casos similares.

En respuesta, Google emitió un comunicado indicando que está revisando la demanda, pero sostuvo que «Lamentablemente los modelos de IA no son perfectos«, a pesar de que le destina importantes recursos.

«Géminis está diseñado para no incites a la violencia en el mundo real ni sugiera la autolesión. «Trabajamos estrechamente con profesionales médicos y de salud mental para crear medidas de seguridad que orienten a los usuarios a recibir apoyo profesional cuando expresan angustia o plantean la posibilidad de autolesionarse», añadió la empresa de tecnología.

Además, afirmó que la IA le había aclarado a Gavalas que Era una herramienta virtual. y que lo había remitido a una línea directa de crisis «en varias ocasiones».

*Seguir laSexta en Google. Todas las novedades y el mejor contenido aquí.