A veces, las disputas tecnológicas se desarrollan con tanta rapidez y gravedad que la gestión empresarial ya no es suficiente y la política interviene. Grok, el asistente de inteligencia artificial asociado a Twitter, la red social propiedad de Elon Musk, está en el centro de una crisis que ya no se limita al ámbito de la ética o los medios de comunicación. Esta vez, el Senado de Estados Unidos tomó la medida formal y envió este mensaje directamente: Apple y Google deben eliminar la aplicación X de sus tiendas por permitir la generación de deepfakes pornográficos y contenido ilegal Por Gronk. Los escándalos ya no están contenidos.

este La denuncia, firmada por los senadores Ron Wyden, Ed Markey y Ben Ray Luján, exige el retiro inmediato. aplicación mientras investiga posibles violaciones de la política de contenido. Los legisladores acusaron a la plataforma, a través de Grok, de facilitar la producción de imágenes explícitas y no consensuadas, algunas de las cuales tenían la apariencia de menores y simulaban comportamientos violentos o degradantes con rostros reales. Se trata de una solicitud formal enviada directamente a dos grandes distribuidores de telefonía móvil, lo que plantea dudas sobre la seguridad del entorno que prometen controlar.

Los detalles son asombrosos. Según el informe presentado, Grok ha sido utilizado para generar miles de imágenes abusivas por hora. Las víctimas no son personajes ficticios, sino personas reales cuyas identidades pueden ser manipuladas por los usuarios con sólo unos pocos clics. En lugar de interrumpir dicha funcionalidad, la empresa de Elon Musk ha optado por limitar el acceso mediante modelos de pago. Solo los usuarios suscritos al plan premium pueden continuar usando la imagen, lo que significa que las herramientas aún están activas, escondidas detrás de un muro de suscripción.

Hace apenas dos días en MuyComputer ya abordamos este tema en profundidad. Allí explicamos que las medidas para limitar la funcionalidad a los usuarios verificados no son realmente una solución, sino una forma de dividir responsabilidades. El daño continúa, pero ahora se monetiza. La aplicación independiente Grok también continúa permitiendo la generación de imágenes sin restricciones anunciadas, una clara indicación de que no existe ningún deseo de cerrar por completo el acceso a contenido dañino.

La crítica más dura provino del senador Ron Wyden, quien Acusa directamente a X de «lucrarse con el crimen». Según sus palabras, la empresa no dejó de utilizar las herramientas que permitían la creación de este tipo de imágenes: simplemente empezó a cobrar por ellas. Se suma a Markey y Luján al argumentar que esta estrategia viola las políticas de revisión de Apple y Google, que prohíben explícitamente la distribución de aplicaciones que faciliten dicho abuso, incluso si esas características están parcialmente ocultas o detrás de barreras de pago.

Si la carta del Senado entra en vigor, la situación de X Corp podría volverse muy complicada. Eliminar tu aplicación de App Store y Google Play supondrá una enorme pérdida de visibilidad y accesoespecialmente en mercados clave como Estados Unidos, sin mencionar La UE puede (y debe) seguir el mismo camino. Esto sería un golpe estructural para una plataforma cuya base de usuarios y reputación han disminuido en los últimos años. Por ahora, ni X ni xAI han anunciado un cierre completo de las capacidades de generación de Grok, prolongando la batalla con los reguladores y poniendo en duda su capacidad para controlar sus herramientas.

A veces la política puede parecer lenta, burocrática o distante. Pero cuando una empresa se niega a corregir problemas que impactan directamente los derechos fundamentales, eventualmente se activarán incluso los mecanismos institucionales más onerosos. Esta vez, no basta con simplemente reformular las condiciones de uso u ocultar funcionalidades detrás de un botón de pago. Si Grok continúa permitiendo la creación de imágenes abusivas, ya no será un asistente de IA. Esta será una amenaza distribuida en la tienda oficial.. A medida que pasa el tiempo sin respuestas claras, este riesgo se vuelve cada vez más difícil de probar.

Más información