La investigación, dirigida por la Escuela de Medicina Icahn en Mount Sinai en Nueva York, analizó cómo a 17 radiólogos de 12 centros internacionales se les presentó un conjunto de 264 radiografías. La mitad eran reales; la otra mitad, creaciones sintéticas generado por modelos como GPT-4o y RoentGen. El resultado es inquietante. Cuando los médicos no sabían que estaban viendo imágenes falsas, sólo el 41% pudo notar algo inusual. Incluso después de que se les advirtiera que el catálogo contenía trampas digitales, su precisión promedio para distinguir el trigo de la paja era apenas del 75%.

Riesgo de caos

La existencia de estas imágenes no es sólo una curiosidad tecnológica, sino también una amenaza potencial para la seguridad del paciente y la estabilidad de los sistemas de salud. Si una fractura fabricada algorítmicamente es indistinguible de una fractura real, las consecuencias legales y médicas entran en territorio turbio. Un ciberataque que inyecte estas imágenes en la historia de un hospital podría cambiar enormemente los diagnósticos, provocando cirugías innecesarias o, peor aún, ignorando patologías reales sustituidas por una imagen artificial de la salud.

El Dr. Mickael Tordjman, autor principal del estudio e investigador del Monte Sinaí, advierte sobre la magnitud del desafío. «Nuestro estudio muestra que estos rayos X son lo suficientemente realistas como para engañar a los radiólogos, incluso si saben que las imágenes generadas por IA existen», dice Tordjman. Para el experto, esto crea una «vulnerabilidad de alto riesgo» en litigios fraudulentos y un peligro para la ciberseguridad si los piratas informáticos logran manipular los registros digitales para «provocar un caos clínico generalizado al socavar la fiabilidad del historial médico».

Si es demasiado perfecto…cuidado

Curiosamente, el estudio encontró que la mayor debilidad de la inteligencia artificial radica en su búsqueda de la perfección estética. Mientras que el cuerpo humano es asimétrico, tosco y lleno de pequeñas anomalías naturales, los rayos X sintéticos tienden a mostrar una armonía casi sospechosa. Los huesos parecen excesivamente lisos, las columnas perfectamente rectas y los pulmones exhiben una simetría que rara vez se encuentra en un paciente real. En este escenario, los radiólogos especialistas en el sistema musculoesquelético demostraron algo mayor agudeza que sus colegas, aunque ninguno era infalible.

Incluso los modelos de lenguaje que crean estas imágenes se ven abrumados por su propia creación. Herramientas como GPT-4o o Gemini no pudieron identificar con total precisión qué imágenes eran generadas por ordenador y cuáles eran biológicas. La paradoja es total: el creador no siempre reconoce su obra. «Las imágenes médicas deepfake a menudo parecen demasiado perfectas», dice Tordjman, y añade que los patrones de los vasos sanguíneos suelen ser «excesivamente uniformes» y las fracturas parecen «inusualmente agudas», limitadas a un solo lado del hueso.

Escudo Historia Médica

Dada la sofisticación de estas técnicas, la comunidad científica pide implementar medidas de protección digitales que van más allá de la simple inspección visual. La propuesta de los investigadores implica el uso de marcas de agua invisibles incrustadas en los metadatos de la imagen y firmas criptográficas vinculadas al técnico que realiza la prueba en el momento de la captura. Sin estas “matrículas” digitales será imposible garantizar que lo que el médico ve en su pantalla realmente coincida con la anatomía del paciente en la mesa.

Lo que vemos hoy en las radiografías de tórax o de las extremidades es sólo el prólogo de un desafío mayor. La tecnología avanza hacia las imágenes tridimensionales, que pronto podrían afectar a la tomografía computarizada (TAC) y la resonancia magnética. «Potencialmente sólo vemos el punta del iceberg», afirma el Dr. Tordjman, quien insiste en la necesidad crucial de crear bases de datos educativas y herramientas de detección antes de que realidad y simulación se vuelvan definitivamente indistinguibles en la práctica clínica diaria.