Una charla con el jefe de Amazon llevó a Estados Unidos a vetar la IA más avanzada de Anthropic
El viernes por la tarde, la influyente empresa Anthropic anunció en un comunicado que restringía el acceso global a sus modelos de inteligencia artificial más avanzados, Mythos y Fable 5, tras la adopción una directiva del Gobierno de Estados Unidos en la que alegaba que el veto era necesario por motivos de «seguridad nacional». La decisión afectaba a todos los usuarios extranjeros, desde empleados de la compañía a países como España.
[–>[–>[–>La inesperada orden ejecutiva dictada por Donald Trump se impulsó después de una conversación entre el director ejecutivo de Amazon, Andy Jassy, con funcionarios de la administración estadounidense, entre ellos el secretario del Tesoro Scott Bessent, según adelanta The Wall Street Journal.
[–> [–>[–>Fuentes internas han explicado al diario económico que Jassy advirtió a las autoridades de que investigadores de Amazon habían logrado que el modelo Fable 5 se saltase sus normas internas y les proporcionara información para lanzar ciberataques. Inquietados por esa filtración, un grupo de funcionarios de la Casa Blanca se reunió para debatir cómo abordarla mientras sus investigadores en ciberseguridad verificaban lo afirmado por Amazon. La forma más directa para atajar el problema, decidieron, era imponer un veto global.
[–>[–>[–>
Según las fuentes consultadas por el WSJ, la administración Trump desconfía desde hace tiempo de Anthropic para gestionar los riesgos que plantean sus modelos de IA más avanzados. Esa opinión se habría visto reforzada después de hablar telefónicamente con el director ejecutivo de la start-up, Dario Amodei.
[–>[–>[–>Dario Amodei, cofundador y director ejecutivo de Anthropic, la empresa de inteligencia artificial detrás de los modelos Claude. / Ruhani Kaur / Bloomberg
[–>[–>[–>
Alianza entre Amazon y Anthropic
[–>[–>[–>
En los últimos años, Amazon ha invertido unos 8.000 millones de dólares en Anthropic, compañía a la que suministra chips para centros de datos. En abril, el gigante del comercio electrónico anunció que invertía otros 5.000 millones en la firma, con la posibilidad de añadir otros 20.000 millones en los próximos años.
[–>[–>[–>
Amazon también utiliza la IA de Anthropic para analizar vulnerabilidades de seguridad e informar de ello a las autoridades. «Como proveedor líder de servicios en la nube que atiende a un gran número de clientes del sector público y privado, no es raro que los gobiernos soliciten nuestro asesoramiento sobre posibles riesgos de seguridad. Cuando se producen, no compartimos los detalles de estas conversaciones», ha informado un portavoz.
[–>[–>
[–>Pugna con Trump
[–>[–>[–>
Anthropic asegura que las vulnerabilidades detectadas por el equipo de Amazon son básicas y que pueden ser detectadas por otros modelos de IA disponibles. También ha defendido que cuenta con las medidas de seguridad adecuadas y que es capaz de gestionar sus sistemas. De hecho, la start-up fue fundada en 2021 por Amodei y otros exdirectivos de OpenAI que consideraban que la empresa responsable de ChatGPT estaba más centrada en comercializar sus productos que en priorizar que fuesen seguros.
[–>[–>[–>
El veto impuesto el viernes acelera la politización de la IA y su control por parte de la administración trumpista, que ya ha tomado otras medidas en esa dirección como el decreto que permite al Gobierno revisar los modelos antes de que se abran al público. La medida también empeora la ya tensa relación entre Trump y Anthropic, firma a la que se vetó de los sistemas federales después de que se negase a acatar las órdenes del Pentágono para ceder su IA a usos como la vigilancia masiva o la creación de armas autónomas.
[–>[–>[–>
Suscríbete para seguir leyendo
Puedes consultar la fuente de este artículo aquí