Instagram ha decidido retirar una de sus funciones de inteligencia artificial más controvertidas, que fue cancelada apenas unos días después de su lanzamiento. herramienta Permite utilizar cualquier cuenta pública de Instagram como referencia para generar imágenesPero la intensa controversia sobre su sistema de consentimiento obligó a la empresa a hacer concesiones. El incidente no sólo representa un revés para uno de sus últimos lanzamientos, sino que también reaviva el debate sobre hasta dónde pueden llegar las empresas al utilizar la imagen de sus propios usuarios.

Esta función está integrada en el nuevo modelo Muse Image de Meta AI. Le permite crear imágenes inspiradas en personas reales mencionando su cuenta pública de Instagram usando el símbolo @. En teoría, la empresa lo ve como una herramienta creativa para generar nuevos contenidos. Sin embargo, esta operación plantea un problema evidente: la persona que utiliza la imagen como referencia no tiene por qué haber autorizado previamente dicho uso.

Aquí empezó el debate. No se requiere consentimiento explícito antes de permitir que la imagen de un usuario se utilice como referencia para generar contenido de IA. Meta opta por un sistema de exclusión voluntaria. Es decir, por defecto están incluidos todos los usuarios mayores de edad con una cuenta pública y sólo se pueden bloquear si encuentras la opción correspondiente y decides desactivarla manualmente. En otras palabras, Meta consideró aceptable utilizar millones de imágenes de personas de forma predeterminada para admitir nuevas funciones. Si el usuario no está de acuerdo, la responsabilidad del bloqueo queda en manos del propio usuario..

La reacción no tardó en llegar y fue mucho más allá de las críticas habituales en las redes sociales. Potente agencia Creative Artists Agency (CAA), que trabaja con figuras como Tom Hanks o Meryl Streep, Exigir públicamente que Meta abandone esta práctica y afirma que no se pueden utilizar nombres, imágenes, sonidos u obras creativas en relación con sistemas de inteligencia artificial sin el consentimiento explícito y documentado. Poco después, SAG-AFTRA, el sindicato que representa a actores e intérpretes estadounidenses, también instó a sus miembros a desactivar la función mientras aún estuviera activa para proteger sus imágenes.

Lo que es particularmente sorprendente es que Meta Tener que retirar la herramienta apenas unos días después de anunciarla. No porque la empresa fuera receptiva, sino porque es difícil imaginar que una empresa con la experiencia, los recursos y el equipo legal de Meta pensaría que un sistema predeterminado basado en el consentimiento sería aceptable para una característica que tiene un impacto tan obvio en los derechos de publicidad. La retirada parece reflejar, sobre todo, la actitud de la empresa No hizo un buen trabajo al calcular la probable respuesta a una propuesta de estas características. La respuesta terminó siendo mucho más fuerte de lo que esperaba.

De hecho, este caso no puede entenderse como un incidente aislado. A medida que la IA generativa adquiera la capacidad de crear imágenes, vídeos y sonidos cada vez más realistas, también Se aviva el debate sobre el consentimiento y los derechos utilizados como referencia. Otras empresas del sector ya se han visto obligadas a revisar iniciativas similares tras recibir críticas relacionadas con el uso de imágenes personales, lo que refleja una creciente sensibilidad entre los usuarios, los propios creadores y las organizaciones que los representan.

Más allá del futuro de esta característica en particular, el incidente deja lecciones que son difíciles de ignorar. Algunas grandes empresas de tecnología han operado durante mucho tiempo bajo la premisa de que ofrecer una opción de exclusión voluntaria después del lanzamiento es suficiente. Sin embargo, cuando está en juego la identidad, la imagen o la voz de millones de personas, Afortunadamente, este enfoque parece ser cada vez menos aceptado.. La controversia de Instagram muestra que el consentimiento ya no se considera una simple configuración, sino un requisito previo para el desarrollo de este tipo de herramientas. Esta vez, Meta tuvo que aprender una dura lección..

Más información