El Gobierno de Trump elimina las restricciones sobre Fable y Mythos, los modelos de IA más potentes de Anthropic
Anthropic anunció el martes que el Departamento de Comercio de Estados Unidos ha levantado los controles de exportación sobre sus modelos de inteligencia artificial más avanzados, Fable y Mythos, menos de tres semanas después de que se ordenara a la empresa suspender el acceso a los mismos debido a riesgos para la seguridad nacional.
[–>[–>[–>Washington ha intensificado la supervisión del lanzamiento de nuevos modelos para identificar posibles amenazas, ante la preocupación de que los modelos avanzados de IA puedan ser utilizados indebidamente por los servicios de inteligencia militar de China, Rusia u otros países que suscitan inquietud.
[–> [–>[–>Una orden del 12 de junio que exigía a Anthropic restringir inmediatamente el acceso a Mythos 5 y Fable 5 a los ciudadanos extranjeros llevó a la empresa a desactivar ambos modelos para todos los usuarios, ya que no había forma de verificar la nacionalidad en tiempo real.
[–>[–>[–>
La semana pasada, el Gobierno de EEUU permitió a la empresa lanzar Mythos 5, pero solo para algunas organizaciones estadounidenses «de confianza». El modelo —diseñado para detectar vulnerabilidades de ciberseguridad— se había puesto anteriormente a disposición de un grupo más amplio de empresas como parte de su proyecto Glasswing.
[–>[–>[–>Anthropic afirmó el martes que ya se han levantado todos los controles de exportación sobre los modelos tras la implementación de medidas de seguridad.
[–>[–>[–>
La empresa está colaborando con el Gobierno de EEUU para ampliar el acceso a Mythos 5 a un conjunto más amplio de socios nacionales e internacionales del programa Glasswing, según indicó en una entrada de blog. Fable 5, destinado al público en general y que cuenta con medidas de seguridad más estrictas, estará disponible a partir del miércoles.
[–>[–>
[–>Colaboración con la Casa Blanca
[–>[–>[–>
Anthropic, que este año ha mantenido una relación tormentosa con la administración del presidente de EEUU, Donald Trump, también ha afirmado que está intensificando su colaboración con el Gobierno de EEUU, concediendo a determinados socios gubernamentales un acceso anticipado ampliado a ambos modelos.
[–>[–>[–>
Asimismo, está trabajando con Amazon, Microsoft, Google y otros socios de Glasswing para desarrollar estándares comunes que permitan evaluar y corregir posibles «jailbreaks» de la IA (técnicas que eluden las medidas de seguridad), incluido un sistema para clasificar la gravedad de dichos «jailbreaks».
[–>[–>[–>Una carta dirigida a Anthropic por el secretario de Comercio de EEUU, Howard Lutnick, a la que ha tenido acceso Reuters, indicaba que Anthropic había acordado colaborar de forma diligente con el Gobierno de EEUU en los protocolos para Mythos, Fable y futuros modelos, así como informar al Gobierno de EEUU de cualquier actividad maliciosa.
[–>[–>[–>
Lutnick, sin embargo, señaló que el departamento «se reserva el derecho a reevaluar las decisiones tomadas en esta carta y la necesidad de volver a imponer un requisito de licencia, en caso de que cambien las circunstancias o de que Anthropic incumpla sus compromisos».
[–>[–>[–>
Hacer frente a fugas
[–>[–>[–>
Anthropic afirmó que la orden de control de exportaciones del 12 de junio se produjo después de que investigadores de Amazon informaran de una forma de eludir las medidas de seguridad de Fable 5, lo que permitía al modelo identificar vulnerabilidades de software y, en un caso concreto, generar código que demostraba cómo se podía explotar una de esas vulnerabilidades.
[–>[–>[–>
Anthropic afirmó que ya ha implementado una nueva medida de seguridad que bloquea el comportamiento descrito en el informe.
[–>[–>[–>
Cualquier solicitud bloqueada se enviará, en su lugar, a su modelo Opus 4.8, y Anthropic reconoció que, aunque esto resultaría frustrante para los usuarios, se ha optado por esta solución con el fin de que las demás capacidades del modelo estén ampliamente disponibles.
[–>[–>[–>
Anthropic advirtió de que era «probablemente imposible» hacer que cualquier modelo de IA fuera totalmente resistente a las fugas de seguridad y señaló la posibilidad de que se desarrollara una fuga universal capaz de desbloquear «toda una clase de comportamientos dañinos».
[–>[–>[–>
«Habrá muchas fugas de seguridad menores, algunas de ellas con un alcance limitado y perjudiciales, y aunque en el momento de redactar este artículo no se han descubierto fugas de seguridad universales para Fable 5, los investigadores expertos en seguridad continúan sometiéndolo a pruebas de ataque», afirmó la empresa.
[–>[–>[–>
Isaac Harris, director ejecutivo del Frontier Security Institute, una organización sin ánimo de lucro centrada en la IA y la seguridad nacional, señaló que ahora parece existir un proceso para establecer normas para los modelos estadounidenses.
[–>[–>[–>
Sin embargo, añadió: «Sigue habiendo dudas sobre cómo gestionará la Administración las capacidades igualmente peligrosas procedentes de China, que cuentan con menos medidas de control, en el mercado estadounidense».
[–>[–>[–>
Puedes consultar la fuente de este artículo aquí