Anthropic ha suspendido todo acceso de los clientes a sus modelos de inteligencia artificial Fable 5 y Myth 5 después de recibir una directiva de control de exportaciones del gobierno de EE. UU., citando «Preocupaciones por la soberanía nacional».

Orden de la administración Trump Solicitar a la empresa que suspenda el acceso de cualquier ciudadano extranjero a Fable 5 y Myth 5ya sea que se encuentre en los Estados Unidos o fuera de los Estados Unidos. Esta restricción también se aplica a los empleados extranjeros de Anthropic. Por lo tanto, la empresa Ambos modelos se han desactivado para todos los clientes para garantizar el cumplimiento.. El acceso a modelos antrópicos más antiguos como Opus y Sonnet no se ve afectado por esta orden gubernamental.

prevenir la selección antrópica

La compañía de IA ha asegurado que las autoridades estadounidenses no han identificado públicamente preocupaciones específicas sobre su modelo, pero sospechan que conocen una manera de eludir o «desbloquear» Fable 5. Según Anthropic, las vulnerabilidades expuestas son “Relativamente simple” También pueden ser descubiertos por otros modelos disponibles públicamente sin necesidad de otros métodos.

La empresa destacó que ha desarrollado Fuertes medidas de seguridad Reduzca la posibilidad de que Fable sea utilizado indebidamente para tareas relacionadas con la ciberseguridad. De hecho, muchos promotores se quejan de que las medidas del gobierno son excesivas. Además, la empresa ha realizado previamente miles de horas de pruebas de las medidas de seguridad de Fable en asociación con agencias gubernamentales nacionales y extranjeras, varias organizaciones privadas y equipos internos.

Anthropic dijo que ningún evaluador ha podido encontrar una vulnerabilidad común en «Fable 5». Por tanto, no está de acuerdo con que una vulnerabilidad potencialmente limitada pueda llevar a la retirada de un modelo de negocio utilizado por cientos de millones de personas, advirtiendo Aplicar este estándar a toda la industria de la IA podría paralizar el desarrollo de nuevos modelos punteros.

Anthropic finalmente mencionó que está trabajando para restaurar el acceso a Fable 5 y Myth 5 lo antes posible y planea compartir más detalles en los próximos días.

Restos humanos en el ojo de un huracán

Anthropic supera a OpenAI tanto en valoración como en ingresos, con su Claude Mythos considerado El modelo de inteligencia artificial más avanzado disponible en la actualidad. Tanto es así que la empresa tuvo que lanzar el proyecto Glasswing bajo controles internos, al que sólo un puñado de grandes empresas tecnológicas tuvieron acceso.

Unos meses más tarde, la semana pasada, Anthropic anunció el lanzamiento de Fable 5, una versión pública de su potente modelo Mythos AI, que anteriormente había sido limitada. La compañía afirma que este es el modelo más potente que ha lanzado al mercado y promete que es «Seguro para uso general.»

Sólo duró unos días… la suspensión ocurrió en medio de una La disputa en curso de Anthropic con la administración Trump. El presidente criticó públicamente a la empresa y el exsecretario de Defensa de Estados Unidos, Pete Hegseth, la incluyó en la lista negra. ‘Cadenas de suministro en riesgo’. Esta designación suele estar reservada para naciones hostiles y esta es la primera vez que una empresa estadounidense la recibe, lo que indica que la herramienta o servicio no es lo suficientemente seguro para uso gubernamental.

Anthropic demandó al Pentágono y un juez estadounidense dictaminó que la directiva impuesta no podía aplicarse durante el proceso. Como resultado, las agencias gubernamentales y organizaciones que trabajan con el ejército de los EE. UU. pueden seguir utilizando productos Anthropic.

De hecho, según el Financial Times, Anthropic envió seis ingenieros a la NSA (Agencia de Seguridad Nacional) como personal desplegado en el frente de batalla. Su trabajo parece ser Dirigir a la agencia a utilizar su modelo más avanzado, Claude Mythos, y personalizar modelos para aplicaciones específicas de inteligencia ofensiva. Una persona familiarizada con el proyecto le dijo al medio que el modelo sería útil para penetrar redes en países como China e Irán.

repercusiones

Esperaremos y veremos cómo termina este caso tan influyente. Está en riesgo el control de las grandes empresas sobre las tecnologías de inteligencia artificial que desarrollan. Estas poderosas tecnologías están disponibles para el público y, si no lo están, grandes grupos de ciberdelincuentes las utilizarán.

El director del Fondo Monetario Internacional advirtió este fin de semana que los modelos avanzados de IA como Mythos «Puede utilizarse para destruir el sistema financiero» Si caen en manos equivocadas.

«Nos damos cuenta de que Mito es sólo el comienzo; Habrá muchos más proyectos como este»Georgieva dijo a los periodistas. Las mismas capacidades que permiten a los modelos de vanguardia identificar vulnerabilidades de ciberseguridad a una velocidad y escala previamente inimaginables también pueden utilizarse como armas.

Georgieva insta a los países a «Todos los elementos necesarios de ciberseguridad» ya Fomentar una mayor cooperación entre los países ricos y pobres y entre los sectores público y privado.. Señaló que no existe una organización global de ciberseguridad y en el contexto geopolítico actual es difícil imaginar que podamos tener una.

economías desarrolladas «Tienen que encontrar una manera de ayudar a los países en desarrollo» Para protegerse, dijo, porque el sistema financiero global está demasiado interconectado para tolerar la debilidad: «Si hay una gran vulnerabilidad, será explotada».. También instó a los países a incluir la ciberseguridad relacionada con la IA en sus presupuestos.